{"id":468201,"date":"2025-07-22T15:01:23","date_gmt":"2025-07-22T15:01:23","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=468201"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=468201","title":{"rendered":"<span>\u041f\u0440\u0430\u0432\u0434\u0430 \u043b\u0438 KAN \u043b\u0443\u0447\u0448\u0435 MLP? \u0421\u0432\u043e\u0439\u0441\u0442\u0432\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u043c\u0435\u0436\u0434\u0443 \u0434\u0432\u0443\u043c\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430\u043c\u0438<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<h2>\u0412\u0432\u0435\u0434\u0435\u043d\u0438\u0435<\/h2>\n<p>\u041f\u0440\u043e\u0448\u043b\u044b\u043c \u043b\u0435\u0442\u043e\u043c \u0432 \u0441\u0432\u0435\u0442 \u0432\u044b\u0448\u043b\u0430 \u043d\u043e\u0432\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439 \u043f\u043e\u0434 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435\u043c Kolmogorov-Arnold Networks (KAN). \u041e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0441\u0442\u0430\u0442\u044c\u044f \u0435\u0441\u0442\u044c \u0432 \u043e\u0442\u043a\u0440\u044b\u0442\u043e\u043c \u0434\u043e\u0441\u0442\u0443\u043f\u0435 \u043d\u0430 \u0430\u0440\u0445\u0438\u0432\u0435 \u043f\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0439 <a href=\"https:\/\/arxiv.org\/abs\/2404.19756\" rel=\"noopener noreferrer nofollow\">\u0441\u0441\u044b\u043b\u043a\u0435<\/a>. \u041d\u0430 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u044b\u0445\u043e\u0434\u0430 \u0441\u0442\u0430\u0442\u044c\u0438 \u044d\u0442\u0430 \u043d\u043e\u0432\u043e\u0441\u0442\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u043b\u0430 \u0444\u0443\u0440\u043e\u0440 \u0432 \u043c\u0438\u0440\u0435 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435, \u0442\u0430\u043a \u043a\u0430\u043a KAN \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u0441\u043b\u043e\u0436\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u041d\u0430 \u0444\u043e\u0442\u043e \u043d\u0438\u0436\u0435 \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u043e\u0448\u0438\u0431\u043a\u0430 \u043d\u043e\u0432\u044b\u0445 \u0441\u0435\u0442\u0435\u0439 \u043f\u0430\u0434\u0430\u0435\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u0447\u0438\u0441\u043b\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432. <\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/p7\/dp\/8g\/p7dp8gm_nkqlkgiwknqve0as6h8.png\" alt=\"\u0433\u0440\u0430\u0444\u0438\u043a\u0438 RMSE \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043a \u0447\u0438\u0441\u043b\u0443 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0443 KAN \u0438 MLP \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u0445\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/p7\/dp\/8g\/p7dp8gm_nkqlkgiwknqve0as6h8.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/p7\/dp\/8g\/p7dp8gm_nkqlkgiwknqve0as6h8.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0433\u0440\u0430\u0444\u0438\u043a\u0438 RMSE \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043a \u0447\u0438\u0441\u043b\u0443 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0443 KAN \u0438 MLP \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u0445<\/figcaption><\/div>\n<\/figure>\n<p> \u041e\u0434\u043d\u0430\u043a\u043e, \u0437\u0430 \u0432\u0441\u0435 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043f\u043b\u0430\u0442\u0438\u0442\u044c, \u0438 \u0446\u0435\u043d\u0430 \u0442\u0430\u043a\u0438\u0445 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438 &#8212; \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435: KAN \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 10 \u0440\u0430\u0437 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435, \u0447\u0435\u043c \u0441\u0442\u0430\u0440\u044b\u0439 \u0434\u043e\u0431\u0440\u044b\u0439 MLP. \u0418\u0437 \u0432\u0441\u0435\u0433\u043e \u044d\u0442\u043e\u0433\u043e \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u0435\u0442 \u0432\u043e\u043f\u0440\u043e\u0441: \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u0441\u0435 \u0436\u0435 \u0443\u043c\u0435\u0441\u0442\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u043d\u043e\u0432\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0432\u043c\u0435\u0441\u0442\u043e \u043f\u0440\u0438\u0432\u044b\u0447\u043d\u044b\u0445 \u0432\u0441\u0435\u043c MLP? <\/p>\n<p>\u041a\u043e\u043d\u0435\u0447\u043d\u043e \u0436\u0435, \u043e\u0442\u0432\u0435\u0442 \u043d\u0430 \u044d\u0442\u043e\u0442 \u0432\u043e\u043f\u0440\u043e\u0441 \u043d\u0435 \u0441\u0442\u043e\u043b\u044c \u043e\u0434\u043d\u043e\u0437\u043d\u0430\u0447\u043d\u044b\u0439: \u043a\u043e\u043c\u0443-\u0442\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u0430\u0436\u043d\u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u043c\u0443-\u0442\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439. \u0412 \u043f\u043e\u0438\u0441\u043a\u0430\u0445 \u043e\u0442\u0432\u0435\u0442\u0430 \u044f \u043f\u0440\u0438\u0448\u0435\u043b \u043a \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043b\u0435\u0433\u043b\u0430 \u0432 \u043e\u0441\u043d\u043e\u0432\u0443 \u043c\u043e\u0435\u0439 \u043a\u0443\u0440\u0441\u043e\u0432\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b (\u043f\u043e\u043b\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u043f\u043e <a href=\"https:\/\/github.com\/Artur4ik2304\/On-the-expressiveness-of-piecewise-linear-KAN-and-ReLU-MLP\/blob\/main\/text.pdf\" rel=\"noopener noreferrer nofollow\">\u0441\u0441\u044b\u043b\u043a\u0435<\/a>) \u0438 \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u044f \u0441\u043e\u0431\u0438\u0440\u0430\u044e\u0441\u044c \u0437\u0434\u0435\u0441\u044c \u0438\u0437\u043b\u043e\u0436\u0438\u0442\u044c.<\/p>\n<h2>\u0420\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0438 \u043f\u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0437\u0430\u0434\u0430\u0447\u0438<\/h2>\n<p>\u041e\u0434\u0438\u043d \u0438\u0437 \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u0432 \u0441\u0440\u0430\u0432\u043d\u0438\u0442\u044c \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b &#8212; \u0432\u044b\u044f\u0432\u0438\u0442\u044c \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u043e\u0435 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b. \u0414\u043b\u044f MLP \u0441\u0435\u0442\u0435\u0439 \u043e\u043d\u043e \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c: \u043f\u0443\u0441\u0442\u044c \u0435\u0441\u0442\u044c MLP \u0441\u0435\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{N}_1\" alt=\"\\mathcal{N}_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/61\/618\/618f2dd84af86a094a0d0471eb1a0761.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/61\/618\/618f2dd84af86a094a0d0471eb1a0761.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/61\/618\/618f2dd84af86a094a0d0471eb1a0761.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0433\u043b\u0443\u0431\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"l_1\" alt=\"l_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e2\/e27\/e2764e31056bd03a8372f87d4927a134.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e2\/e27\/e2764e31056bd03a8372f87d4927a134.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e2\/e27\/e2764e31056bd03a8372f87d4927a134.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 MLP \u0441\u0435\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{N}_{2}\" alt=\"\\mathcal{N}_{2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/917\/917a02bdd45943e1e48633ec20237b5e.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/917\/917a02bdd45943e1e48633ec20237b5e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/917\/917a02bdd45943e1e48633ec20237b5e.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0433\u043b\u0443\u0431\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"l_2\" alt=\"l_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/fb\/fbf\/fbf668c989f4c01f256df9948afadf24.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/fb\/fbf\/fbf668c989f4c01f256df9948afadf24.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/fb\/fbf\/fbf668c989f4c01f256df9948afadf24.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043f\u0440\u0438 \u044d\u0442\u043e\u043c <img decoding=\"async\" class=\"formula inline\" source=\"l_1 &lt; l_2\" alt=\"l_1 &lt; l_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/29\/292\/292d869bd19559cae7b3660815fff081.svg\" width=\"48\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/29\/292\/292d869bd19559cae7b3660815fff081.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/29\/292\/292d869bd19559cae7b3660815fff081.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0430 \u0448\u0438\u0440\u0438\u043d\u0430 \u043e\u0431\u043e\u0438\u0445 \u0441\u0435\u0442\u0435\u0439 \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u0438\u0430\u043b\u044c\u043d\u0430 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"d\" alt=\"d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430 (\u0434\u0430\u043b\u0435\u0435 \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0430\u0435\u043c \u0447\u0435\u0440\u0435\u0437 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{poly}(d)\" alt=\"\\mathcal{poly}(d)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/498\/49852fca7d04006eb199ae1f6ac075ce.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/498\/49852fca7d04006eb199ae1f6ac075ce.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/498\/49852fca7d04006eb199ae1f6ac075ce.svg 781w\" loading=\"lazy\" decode=\"async\"\/>) \u0435\u0441\u043b\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"f\" alt=\"f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0442\u0430\u043a\u0430\u044f, \u0447\u0442\u043e \u043e\u043d\u0430 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f (\u0432 \u043a\u0430\u043a\u043e\u043c \u0438\u043c\u0435\u043d\u043d\u043e \u0441\u043c\u044b\u0441\u043b\u0435 \u0431\u0443\u0434\u0435\u0442 \u043f\u043e\u043d\u044f\u0442\u043d\u043e \u043f\u043e\u0437\u0434\u043d\u0435\u0435) \u0441\u0435\u0442\u044c\u044e <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{N}_1\" alt=\"\\mathcal{N}_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/61\/618\/618f2dd84af86a094a0d0471eb1a0761.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/61\/618\/618f2dd84af86a094a0d0471eb1a0761.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/61\/618\/618f2dd84af86a094a0d0471eb1a0761.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043d\u043e \u043d\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{N}_{2}\" alt=\"\\mathcal{N}_{2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/917\/917a02bdd45943e1e48633ec20237b5e.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/917\/917a02bdd45943e1e48633ec20237b5e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/917\/917a02bdd45943e1e48633ec20237b5e.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u043e \u0433\u043e\u0432\u043e\u0440\u044f\u0442, \u0447\u0442\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u043c\u0435\u0436\u0434\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{N}_1\" alt=\"\\mathcal{N}_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/61\/618\/618f2dd84af86a094a0d0471eb1a0761.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/61\/618\/618f2dd84af86a094a0d0471eb1a0761.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/61\/618\/618f2dd84af86a094a0d0471eb1a0761.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{N}_{2}\" alt=\"\\mathcal{N}_{2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/917\/917a02bdd45943e1e48633ec20237b5e.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/917\/917a02bdd45943e1e48633ec20237b5e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/917\/917a02bdd45943e1e48633ec20237b5e.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u041c\u043e\u044f \u0438\u0434\u0435\u044f \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u043b\u0430\u0441\u044c \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043f\u044b\u0442\u0430\u0442\u044c\u0441\u044f \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c \u043f\u043e\u0434\u043e\u0431\u043d\u043e\u0435 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0440\u0430\u0437\u0434\u0435\u043b\u044f\u043b\u043e \u0431\u044b KAN \u0438 MLP. \u041a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e, \u0432\u043e\u043f\u0440\u043e\u0441 \u0441\u0442\u0430\u0432\u0438\u043b\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c: \u043f\u0443\u0441\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{K}\" alt=\"\\mathcal{K}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/fd\/fdb\/fdbbc77a217b8d40db034948f50f2a78.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/fd\/fdb\/fdbbc77a217b8d40db034948f50f2a78.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/fd\/fdb\/fdbbc77a217b8d40db034948f50f2a78.svg 781w\" loading=\"lazy\" decode=\"async\"\/> &#8212; KAN \u0433\u043b\u0443\u0431\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"l\" alt=\"l\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2d\/2db\/2db95e8e1a9267b7a1188556b2013b33.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2d\/2db\/2db95e8e1a9267b7a1188556b2013b33.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2d\/2db\/2db95e8e1a9267b7a1188556b2013b33.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{poly}(d)\" alt=\"\\mathcal{poly}(d)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/498\/49852fca7d04006eb199ae1f6ac075ce.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/498\/49852fca7d04006eb199ae1f6ac075ce.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/498\/49852fca7d04006eb199ae1f6ac075ce.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{N}\" alt=\"\\mathcal{N}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4b\/4bd\/4bd01f4a6739d95ec7743e82072870d7.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4b\/4bd\/4bd01f4a6739d95ec7743e82072870d7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4b\/4bd\/4bd01f4a6739d95ec7743e82072870d7.svg 781w\" loading=\"lazy\" decode=\"async\"\/> &#8212; MLP \u0441\u0435\u0442\u044c \u0442\u043e\u0439 \u0436\u0435 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0438 \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u0448\u0438\u0440\u0438\u043d\u044b. \u0421\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u043b\u0438 \u0442\u0430\u043a\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"f\" alt=\"f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0447\u0442\u043e \u043e\u043d\u0430 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{K}\" alt=\"\\mathcal{K}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/fd\/fdb\/fdbbc77a217b8d40db034948f50f2a78.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/fd\/fdb\/fdbbc77a217b8d40db034948f50f2a78.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/fd\/fdb\/fdbbc77a217b8d40db034948f50f2a78.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043d\u043e \u043d\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{N}\" alt=\"\\mathcal{N}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4b\/4bd\/4bd01f4a6739d95ec7743e82072870d7.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4b\/4bd\/4bd01f4a6739d95ec7743e82072870d7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4b\/4bd\/4bd01f4a6739d95ec7743e82072870d7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>?<\/p>\n<p>\u0414\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u043e\u0442\u0432\u0435\u0442\u0438\u0442\u044c \u043d\u0430 \u044d\u0442\u043e\u0442 \u0432\u043e\u043f\u0440\u043e\u0441, \u043d\u0430\u043c \u043f\u0440\u0438\u0434\u0435\u0442\u0441\u044f \u0432\u043d\u0438\u043a\u043d\u0443\u0442\u044c \u0432 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e KAN, \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043e\u0434\u0438\u043d \u0438\u0437 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432 \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0434\u043b\u044f MLP \u0441\u0435\u0442\u0435\u0439 \u0433\u043b\u0443\u0431\u0438\u043d\u044b 2 \u0438 3 (\u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{poly}(d)\" alt=\"\\mathcal{poly}(d)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/498\/49852fca7d04006eb199ae1f6ac075ce.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/498\/49852fca7d04006eb199ae1f6ac075ce.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/498\/49852fca7d04006eb199ae1f6ac075ce.svg 781w\" loading=\"lazy\" decode=\"async\"\/>), \u0430 \u0442\u0430\u043a\u0436\u0435 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0438\u0442\u044c \u044d\u0442\u043e \u0432\u0441\u0435 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430 \u043f\u043e \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u044e \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0433\u043e (\u0441\u0442\u0430\u043d\u0435\u0442 \u043f\u043e\u043d\u044f\u0442\u043d\u043e \u0434\u0430\u043b\u0435\u0435) KAN \u0432 MLP \u0438 \u043e\u0431\u0440\u0430\u0442\u043d\u043e. \u0418\u0442\u0430\u043a, \u043d\u0430\u0447\u043d\u0435\u043c \u043f\u043e \u043f\u043e\u0440\u044f\u0434\u043a\u0443.<\/p>\n<h2>1. \u0423\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e KAN<\/h2>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u043c, \u0447\u0442\u043e \u0442\u0430\u043a\u043e\u0435 \u0441\u043b\u043e\u0439 KAN.<\/p>\n<p><em><u>\u041e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435<\/u><\/em>: \u0421\u043b\u043e\u0439 \u0441\u0435\u0442\u0438 \u041a\u0410N (KAN-\u0441\u043b\u043e\u0439) \u0441 \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c\u044e <img decoding=\"async\" class=\"formula inline\" source=\"n_{\\text{in}}\" alt=\"n_{\\text{in}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/56\/568\/568b4a74cc29dd90074761faec1acb72.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/56\/568\/568b4a74cc29dd90074761faec1acb72.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/56\/568\/568b4a74cc29dd90074761faec1acb72.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c\u044e <img decoding=\"async\" class=\"formula inline\" source=\"n_{\\text{out}}\" alt=\"n_{\\text{out}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5f\/5fa\/5fad7273118a860099f13f9782d1974a.svg\" width=\"24\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5f\/5fa\/5fad7273118a860099f13f9782d1974a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5f\/5fa\/5fad7273118a860099f13f9782d1974a.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0437\u0430\u0434\u0430\u0451\u0442\u0441\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u0435\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbf{\\Phi} = \\{\\phi^{q}_{p}\\}_{p=1,\\ldots,n_{\\text{in}}}^{q=1,\\ldots,n_{\\text{out}}}\" alt=\"\\mathbf{\\Phi} = \\{\\phi^{q}_{p}\\}_{p=1,\\ldots,n_{\\text{in}}}^{q=1,\\ldots,n_{\\text{out}}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d8\/d8d\/d8dcd12597cd8b497e6445721d9cfbcd.svg\" width=\"136\" height=\"24\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d8\/d8d\/d8dcd12597cd8b497e6445721d9cfbcd.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d8\/d8d\/d8dcd12597cd8b497e6445721d9cfbcd.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0432\u0435\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u043e\u0434\u043d\u043e\u0439 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\\phi^{q}_{p}\\colon \\mathbb{R} \\to \\mathbb{R}\" alt=\"\\phi^{q}_{p}\\colon \\mathbb{R} \\to \\mathbb{R}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/36\/36a\/36a7659ddbefe5c35de9b4e9dd0e6016.svg\" width=\"80\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/36\/36a\/36a7659ddbefe5c35de9b4e9dd0e6016.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/36\/36a\/36a7659ddbefe5c35de9b4e9dd0e6016.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u044b \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438. \u041e\u043d \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u044e<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\mathbf{\\Phi}\\colon\\mathbb{R}^{n_{\\text{in}}}\\to\\mathbb{R}^{n_{\\text{out}}}\" alt=\"\\mathbf{\\Phi}\\colon\\mathbb{R}^{n_{\\text{in}}}\\to\\mathbb{R}^{n_{\\text{out}}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1b\/1bd\/1bd318b3cf9ef478e2742765ab728149.svg\" width=\"112\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1b\/1bd\/1bd318b3cf9ef478e2742765ab728149.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1b\/1bd\/1bd318b3cf9ef478e2742765ab728149.svg 781w\" loading=\"lazy\" decode=\"async\"\/><img decoding=\"async\" class=\"formula\" source=\"\\mathbf{x} = (x_i)_{i=1,\\ldots,n_{\\text{in}}} \\mapsto \\mathbf{\\Phi}\\mathbf(x) = \\left(\\sum_{i=1}^{n_{\\text{in}}}\\phi^{j}_{i}(x_i)\\right)_{j=1,\\ldots,n_{\\text{out}}}\" alt=\"\\mathbf{x} = (x_i)_{i=1,\\ldots,n_{\\text{in}}} \\mapsto \\mathbf{\\Phi}\\mathbf(x) = \\left(\\sum_{i=1}^{n_{\\text{in}}}\\phi^{j}_{i}(x_i)\\right)_{j=1,\\ldots,n_{\\text{out}}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6f\/6ff\/6ffc618df5b5db22b61df076c043e316.svg\" width=\"384\" height=\"56\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6f\/6ff\/6ffc618df5b5db22b61df076c043e316.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6f\/6ff\/6ffc618df5b5db22b61df076c043e316.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u041d\u0430 \u0444\u043e\u0442\u043e \u043d\u0438\u0436\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d \u0432 \u0441\u0445\u0435\u043c\u0430\u0442\u0438\u0447\u043d\u043e\u043c \u0432\u0438\u0434\u0435 \u0441\u043b\u043e\u0439 KAN (\u0434\u043b\u044f \u0443\u0434\u043e\u0431\u0441\u0442\u0432\u0430 \u0441\u0432\u044f\u0437\u0438 \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u044b \u0442\u043e\u043b\u044c\u043a\u043e \u043c\u0435\u0436\u0434\u0443 \u0432\u0445\u043e\u0434\u043e\u043c \u0438 \u043f\u0435\u0440\u0432\u044b\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c, \u0442.\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"y_1 = \\phi^{1}_{1}(x_1) + \\phi^{1}_{2}(x_2) + \\dots + \\phi^{1}_{n_{in}}(x_{n_{in}})\" alt=\"y_1 = \\phi^{1}_{1}(x_1) + \\phi^{1}_{2}(x_2) + \\dots + \\phi^{1}_{n_{in}}(x_{n_{in}})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/af\/af0\/af0b87e8b4d71b4ac7cc3c5799074fcb.svg\" width=\"296\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/af\/af0\/af0b87e8b4d71b4ac7cc3c5799074fcb.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/af\/af0\/af0b87e8b4d71b4ac7cc3c5799074fcb.svg 781w\" loading=\"lazy\" decode=\"async\"\/>). <\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/3q\/if\/yk\/3qifykk2u1xnajinolh8aj41lbk.png\" alt=\"\u0421\u0445\u0435\u043c\u0430\u0442\u0438\u0447\u043d\u044b\u0439 \u0441\u043b\u043e\u0439 KAN\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/3q\/if\/yk\/3qifykk2u1xnajinolh8aj41lbk.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/3q\/if\/yk\/3qifykk2u1xnajinolh8aj41lbk.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0421\u0445\u0435\u043c\u0430\u0442\u0438\u0447\u043d\u044b\u0439 \u0441\u043b\u043e\u0439 KAN<\/figcaption><\/div>\n<\/figure>\n<p> \u0422\u0435\u043f\u0435\u0440\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u043c KAN \u043a\u0430\u043a \u043a\u043e\u043c\u043f\u043e\u0437\u0438\u0446\u0438\u044e \u0441\u043b\u043e\u0435\u0432. <\/p>\n<p><em><u>\u041e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435<\/u><\/em>: \u0421\u0435\u0442\u044c \u041a\u043e\u043b\u043c\u043e\u0433\u043e\u0440\u043e\u0432\u0430-\u0410\u0440\u043d\u043e\u043b\u044c\u0434\u0430 (KAN) \u0433\u043b\u0443\u0431\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u044d\u0442\u043e \u043a\u043e\u043c\u043f\u043e\u0437\u0438\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 781w\" loading=\"lazy\" decode=\"async\"\/> KAN-\u0441\u043b\u043e\u0451\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbf{\\Phi}_{L-1} \\circ \\ldots \\circ \\mathbf{\\Phi}_0\" alt=\"\\mathbf{\\Phi}_{L-1} \\circ \\ldots \\circ \\mathbf{\\Phi}_0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/bc\/bc6\/bc66ccbe77fca01e8ea28bbac9c58b0e.svg\" width=\"112\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/bc\/bc6\/bc66ccbe77fca01e8ea28bbac9c58b0e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/bc\/bc6\/bc66ccbe77fca01e8ea28bbac9c58b0e.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0432 \u0441\u043b\u0443\u0447\u0430\u0435, \u043a\u043e\u0433\u0434\u0430 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u0441\u043b\u043e\u0439 \u0438\u043c\u0435\u0435\u0442 \u0432\u044b\u0445\u043e\u0434\u043d\u0443\u044e \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c 1, \u0444\u0443\u043d\u043a\u0446\u0438\u044f, \u0437\u0430\u0434\u0430\u0432\u0430\u0435\u043c\u0430\u044f KAN, \u0431\u0443\u0434\u0435\u0442 \u0438\u043c\u0435\u0442\u044c \u0442\u0430\u043a\u043e\u0439 \u0441\u0442\u0440\u0430\u0448\u043d\u044b\u0439 \u0432\u0438\u0434:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"f(\\mathbf{x}) = \\sum_{i_{L-1}=1}^{n_{L-1}}\\phi^{L-1,i_{L}}_{i_{L-1}}\\!\\left(\\ldots \\sum_{i_1=1}^{n_1}\\phi^{1,i_2}_{i_1}\\left(\\sum_{i_0=1}^{n_0}\\phi^{0,i_1}_{i_0}(x_{i_0})\\right)\\ldots\\right)\" alt=\"f(\\mathbf{x}) = \\sum_{i_{L-1}=1}^{n_{L-1}}\\phi^{L-1,i_{L}}_{i_{L-1}}\\!\\left(\\ldots \\sum_{i_1=1}^{n_1}\\phi^{1,i_2}_{i_1}\\left(\\sum_{i_0=1}^{n_0}\\phi^{0,i_1}_{i_0}(x_{i_0})\\right)\\ldots\\right)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/70\/700\/70001881274749101a237124008b817d.svg\" width=\"416\" height=\"48\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/70\/700\/70001881274749101a237124008b817d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/70\/700\/70001881274749101a237124008b817d.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"n_\\ell\" alt=\"n_\\ell\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/38\/380\/380f7417966d71017db6b8cc1c36e7db.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/38\/380\/380f7417966d71017db6b8cc1c36e7db.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/38\/380\/380f7417966d71017db6b8cc1c36e7db.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u0432\u0445\u043e\u0434\u043d\u0430\u044f \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"\\ell\" alt=\"\\ell\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ee\/ee5\/ee5e5c003694e7cd5ae404923c665edb.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ee\/ee5\/ee5e5c003694e7cd5ae404923c665edb.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ee\/ee5\/ee5e5c003694e7cd5ae404923c665edb.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u0433\u043e KAN-\u0441\u043b\u043e\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbf{\\Phi}_\\ell = \\{\\phi^{\\ell,q}_{p}\\}_{p=1,\\ldots,n_\\ell}^{q=1,\\ldots,n_{\\ell+1}}\" alt=\"\\mathbf{\\Phi}_\\ell = \\{\\phi^{\\ell,q}_{p}\\}_{p=1,\\ldots,n_\\ell}^{q=1,\\ldots,n_{\\ell+1}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9f\/9f0\/9f0527458d64dae8e852ac278fc9b7fd.svg\" width=\"160\" height=\"24\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9f\/9f0\/9f0527458d64dae8e852ac278fc9b7fd.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9f\/9f0\/9f0527458d64dae8e852ac278fc9b7fd.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u0414\u043e\u0431\u0430\u0432\u043b\u044e \u0442\u0430\u043a\u0436\u0435 \u043f\u0430\u0440\u0443 \u0441\u043b\u043e\u0432 \u043f\u0440\u043e \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f KAN. \u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0432\u0441\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\phi^{\\ell,q}_{p}\" alt=\"\\phi^{\\ell,q}_{p}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/51\/51b\/51b20114143229d1b40274850cf489a5.svg\" width=\"24\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/51\/51b\/51b20114143229d1b40274850cf489a5.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/51\/51b\/51b20114143229d1b40274850cf489a5.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0437\u0430\u0434\u0430\u044e\u0442\u0441\u044f \u0432 \u0432\u0438\u0434\u0435 \u0441\u043f\u043b\u0430\u0439\u043d\u043e\u0432 \u0438 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u0434\u043e\u0431\u0430\u0432\u043a\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"b(x)\" alt=\"b(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0d\/0db\/0db4b0393eae168851671b28e5f03c5f.svg\" width=\"32\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0d\/0db\/0db4b0393eae168851671b28e5f03c5f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0d\/0db\/0db4b0393eae168851671b28e5f03c5f.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442.\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\phi^{\\ell,q}_{p} = w_bb_p^{l,q}(x) +  w_sspline_p^{l,q}(x)\" alt=\"\\phi^{\\ell,q}_{p} = w_bb_p^{l,q}(x) +  w_sspline_p^{l,q}(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/ba\/ba3\/ba356a68ba34cef5dbd13045ad89617c.svg\" width=\"248\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/ba\/ba3\/ba356a68ba34cef5dbd13045ad89617c.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/ba\/ba3\/ba356a68ba34cef5dbd13045ad89617c.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0433\u0434\u0435<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"spline_p^{l,q}(x) = \\sum_{i}{c_{i}B_i(x)}\" alt=\"spline_p^{l,q}(x) = \\sum_{i}{c_{i}B_i(x)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9b\/9bf\/9bf89de6762853e86cbb896892fb33ed.svg\" width=\"192\" height=\"32\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9b\/9bf\/9bf89de6762853e86cbb896892fb33ed.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9b\/9bf\/9bf89de6762853e86cbb896892fb33ed.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0435\u0441\u0442\u044c \u043b\u0438\u043d\u0435\u0439\u043d\u0430\u044f \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u044f B-\u0441\u043f\u043b\u0430\u0439\u043d\u043e\u0432. \u0414\u043b\u044f \u0442\u0435\u0445, \u043a\u0442\u043e \u043d\u0435 \u0437\u043d\u0430\u043a\u043e\u043c \u0441\u043e \u0441\u043f\u043b\u0430\u0439\u043d\u0430\u043c\u0438, \u0434\u043e\u0431\u0430\u0432\u043b\u044e: \u0441\u043f\u043b\u0430\u0439\u043d &#8212; \u044d\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043f\u043e\u043b\u0438\u043d\u043e\u043c\u0438\u0430\u043b\u044c\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f (\u043c\u043d\u043e\u0433\u043e\u0447\u043b\u0435\u043d \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0435\u043f\u0435\u043d\u0438 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u043e\u0442\u0440\u0435\u0437\u043a\u0435 \u0440\u0430\u0437\u0431\u0438\u0435\u043d\u0438\u044f), \u0430 B-\u0441\u043f\u043b\u0430\u0439\u043d\u044b &#8212; \u0431\u0430\u0437\u0438\u0441 \u0432 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435 \u0442\u0430\u043a\u0438\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u041d\u0430 \u0444\u043e\u0442\u043e \u043d\u0438\u0436\u0435 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u0440 \u0438\u043d\u0442\u0435\u0440\u043f\u043e\u043b\u044f\u0446\u0438\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0441\u043f\u043b\u0430\u0439\u043d\u0430\u043c\u0438 \u0440\u0430\u0437\u043d\u043e\u0439 \u0441\u0442\u0435\u043f\u0435\u043d\u0438 \u0438 B-\u0441\u043f\u043b\u0430\u0439\u043d\u0430\u043c\u0438.  <\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/5w\/sq\/w_\/5wsqw_vpx5lr1mmk8cg8_cltoyw.png\" alt=\"\u041f\u0440\u0438\u043c\u0435\u0440 \u0438\u043d\u0442\u0435\u0440\u043f\u043e\u043b\u044f\u0446\u0438\u0438 \u0441\u043f\u043b\u0430\u0439\u043d\u0430\u043c\u0438\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/5w\/sq\/w_\/5wsqw_vpx5lr1mmk8cg8_cltoyw.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/5w\/sq\/w_\/5wsqw_vpx5lr1mmk8cg8_cltoyw.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041f\u0440\u0438\u043c\u0435\u0440 \u0438\u043d\u0442\u0435\u0440\u043f\u043e\u043b\u044f\u0446\u0438\u0438 \u0441\u043f\u043b\u0430\u0439\u043d\u0430\u043c\u0438<\/figcaption><\/div>\n<\/figure>\n<p> \u0421\u0435\u0439\u0447\u0430\u0441 \u0438 \u0434\u0430\u043b\u0435\u0435 \u043d\u0435 \u0441\u0442\u043e\u043b\u044c \u0432\u0430\u0436\u043d\u043e, \u043a\u0430\u043a \u0441\u0442\u0440\u043e\u044f\u0442\u0441\u044f \u044d\u0442\u0438 \u0441\u0430\u043c\u044b\u0435 \u0441\u043f\u043b\u0430\u0439\u043d\u044b, \u043c\u044b \u0445\u043e\u0442\u0438\u043c \u043f\u043e\u043d\u044f\u0442\u044c \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u041f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"w_s = 1\" alt=\"w_s = 1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a8\/a88\/a88a6fcb332cf95f7a8f481532ddef05.svg\" width=\"48\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a8\/a88\/a88a6fcb332cf95f7a8f481532ddef05.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a8\/a88\/a88a6fcb332cf95f7a8f481532ddef05.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"spline(x) \\approx 0\" alt=\"spline(x) \\approx 0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cb\/cb6\/cb67d9152c065757057ffd25829405a2.svg\" width=\"104\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cb\/cb6\/cb67d9152c065757057ffd25829405a2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cb\/cb6\/cb67d9152c065757057ffd25829405a2.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"b(x)\" alt=\"b(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0d\/0db\/0db4b0393eae168851671b28e5f03c5f.svg\" width=\"32\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0d\/0db\/0db4b0393eae168851671b28e5f03c5f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0d\/0db\/0db4b0393eae168851671b28e5f03c5f.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u0432 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0438 \u0441 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0435\u0439 <a href=\"https:\/\/paperswithcode.com\/method\/xavier-initialization\" rel=\"noopener noreferrer nofollow\">Xavier<\/a>. \u0414\u0430\u043b\u0435\u0435 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u043e\u0448\u0438\u0431\u043a\u0438: \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442\u0441\u044f \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c \u043f\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c \u043c\u043e\u0434\u0435\u043b\u0438, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u0445\u043e\u0434\u044f\u0442 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u044b <img decoding=\"async\" class=\"formula inline\" source=\"c_i\" alt=\"c_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/96\/96f\/96fafac0c054b9eb47d3f630ed02c289.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/96\/96f\/96fafac0c054b9eb47d3f630ed02c289.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/96\/96f\/96fafac0c054b9eb47d3f630ed02c289.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0432 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f\u0445 \u0441\u043f\u043b\u0430\u0439\u043d\u043e\u0432 (\u043e\u0431\u044b\u0447\u043d\u043e \u0431\u0435\u0440\u0443\u0442\u0441\u044f \u043a\u0443\u0431\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0441\u043f\u043b\u0430\u0439\u043d\u044b \u0438 \u0438\u0442\u043e\u0433\u043e\u0432\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0433\u043b\u0430\u0434\u043a\u0438\u043c\u0438), \u0430 \u0442\u0430\u043a\u0436\u0435 \u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_b\" alt=\"w_b\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/94\/948\/948abbd0283c19cb097cd6226b8253f9.svg\" width=\"16\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/94\/948\/948abbd0283c19cb097cd6226b8253f9.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/94\/948\/948abbd0283c19cb097cd6226b8253f9.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"w_s\" alt=\"w_s\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cd\/cd9\/cd90e820496e941be62f5a00fb5f5123.svg\" width=\"16\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cd\/cd9\/cd90e820496e941be62f5a00fb5f5123.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cd\/cd9\/cd90e820496e941be62f5a00fb5f5123.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0437\u0430\u0442\u0435\u043c \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u0448\u0430\u0433 \u0432 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0438 \u0430\u043d\u0442\u0438\u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430 \u0438 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0435\u0442\u0441\u044f \u0441\u043d\u043e\u0432\u0430. \u041f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u043e\u0435 \u0440\u0430\u0441\u0448\u0438\u0440\u0435\u043d\u0438\u0435 \u0441\u0435\u0442\u043a\u0438: \u043a\u0430\u0436\u0434\u044b\u0435 k \u0448\u0430\u0433\u043e\u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043c\u044b \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u043c \u0447\u0438\u0441\u043b\u043e \u0442\u043e\u0447\u0435\u043a \u0440\u0430\u0437\u0431\u0438\u0435\u043d\u0438\u044f \u043e\u0442\u0440\u0435\u0437\u043a\u043e\u0432 \u0434\u043b\u044f \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438 \u0441\u043f\u043b\u0430\u0439\u043d\u0430\u043c\u0438, \u0442\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u044f \u0447\u0438\u0441\u043b\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"c_i\" alt=\"c_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/96\/96f\/96fafac0c054b9eb47d3f630ed02c289.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/96\/96f\/96fafac0c054b9eb47d3f630ed02c289.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/96\/96f\/96fafac0c054b9eb47d3f630ed02c289.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441\u0435\u0442\u0438. <\/p>\n<h2>2. \u041e\u0442 KAN \u043a MLP \u0438 \u043e\u0431\u0440\u0430\u0442\u043d\u043e<\/h2>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0432\u0432\u0435\u0434\u0435\u043c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u044f\u0442\u0441\u044f \u0432 \u044d\u0442\u043e\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435:<\/p>\n<p><em><u>\u041e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435<\/u><\/em>: \u041a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 KAN &#8212; \u044d\u0442\u043e KAN, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432\u0441\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\phi^{q}_{p}\" alt=\"\\phi^{q}_{p}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4c\/4cd\/4cdef23591445d66111c9b5e23b93c5c.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4c\/4cd\/4cdef23591445d66111c9b5e23b93c5c.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4c\/4cd\/4cdef23591445d66111c9b5e23b93c5c.svg 781w\" loading=\"lazy\" decode=\"async\"\/> &#8212; \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0435.<\/p>\n<p><em><u>\u041e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435<\/u><\/em>: \u0427\u0435\u0440\u0435\u0437 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbf{KAN}{(L, n, k)}\" alt=\"\\mathbf{KAN}{(L, n, k)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b8\/b8c\/b8c2750dccd11ac415e50d8e0e62f45f.svg\" width=\"104\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b8\/b8c\/b8c2750dccd11ac415e50d8e0e62f45f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b8\/b8c\/b8c2750dccd11ac415e50d8e0e62f45f.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0431\u0443\u0434\u0435\u043c \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0430\u0442\u044c \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u0437\u0430\u0434\u0430\u0432\u0430\u0435\u043c\u044b\u0445 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0433\u043e KAN \u0433\u043b\u0443\u0431\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"n\" alt=\"n\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b8\/7b8b965ad4bca0e41ab51de7b31363a1.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b8\/7b8b965ad4bca0e41ab51de7b31363a1.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b8\/7b8b965ad4bca0e41ab51de7b31363a1.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0417\u0434\u0435\u0441\u044c <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8c\/8ce\/8ce4b16b22b58894aa86c421e8759df3.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8c\/8ce\/8ce4b16b22b58894aa86c421e8759df3.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8c\/8ce\/8ce4b16b22b58894aa86c421e8759df3.svg 781w\" loading=\"lazy\" decode=\"async\"\/> &#8212; \u0447\u0438\u0441\u043b\u043e \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u043e\u0432 \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\\phi^{q}_{p}\\colon \\mathbb{R} \\to \\mathbb{R}\" alt=\"\\phi^{q}_{p}\\colon \\mathbb{R} \\to \\mathbb{R}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/36\/36a\/36a7659ddbefe5c35de9b4e9dd0e6016.svg\" width=\"80\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/36\/36a\/36a7659ddbefe5c35de9b4e9dd0e6016.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/36\/36a\/36a7659ddbefe5c35de9b4e9dd0e6016.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p><em><u>\u041e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435<\/u><\/em>: \u0427\u0435\u0440\u0435\u0437 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbf{ReLU}{(L, n)}\" alt=\"\\mathbf{ReLU}{(L, n)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/00\/00d\/00daf08df833e4ee8e35312f031d6a8e.svg\" width=\"96\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/00\/00d\/00daf08df833e4ee8e35312f031d6a8e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/00\/00d\/00daf08df833e4ee8e35312f031d6a8e.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0431\u0443\u0434\u0435\u043c \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0430\u0442\u044c \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u0437\u0430\u0434\u0430\u0432\u0430\u0435\u043c\u044b\u0445 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e ReLU MLP \u0441\u0435\u0442\u0438 \u0433\u043b\u0443\u0431\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"n\" alt=\"n\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b8\/7b8b965ad4bca0e41ab51de7b31363a1.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b8\/7b8b965ad4bca0e41ab51de7b31363a1.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b8\/7b8b965ad4bca0e41ab51de7b31363a1.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u0412 \u043f\u043e\u043f\u044b\u0442\u043a\u0430\u0445 \u043d\u0430\u0439\u0442\u0438 \u043f\u043e\u0434\u0445\u043e\u0434 \u043a \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435 \u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0438 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u044f \u043d\u0430\u0442\u043a\u043d\u0443\u043b\u0441\u044f \u043d\u0430 \u0441\u0442\u0430\u0442\u044c\u044e <a href=\"https:\/\/arxiv.org\/abs\/2503.01702\" rel=\"noopener noreferrer nofollow\">Relating Piecewise Linear Kolmogorov Arnold Networks to ReLU Networks<\/a>, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u043e, \u0447\u0442\u043e \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 KAN \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"n\" alt=\"n\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b8\/7b8b965ad4bca0e41ab51de7b31363a1.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b8\/7b8b965ad4bca0e41ab51de7b31363a1.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b8\/7b8b965ad4bca0e41ab51de7b31363a1.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u0433\u043b\u0443\u0431\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d ReLU MLP \u0441\u0435\u0442\u044c\u044e \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u043d\u0430 1 \u0431\u043e\u043b\u044c\u0448\u0435, \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"n^2(k+1)\" alt=\"n^2(k+1)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/90\/902\/9027282d7c5c5d7316c02b87a01a7a3e.svg\" width=\"72\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/90\/902\/9027282d7c5c5d7316c02b87a01a7a3e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/90\/902\/9027282d7c5c5d7316c02b87a01a7a3e.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0411\u043e\u043b\u0435\u0435 \u0441\u0442\u0440\u043e\u0433\u043e, \u0432\u0435\u0440\u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u0442\u0435\u043e\u0440\u0435\u043c\u0430:<\/p>\n<p><em><u>\u0422\u0435\u043e\u0440\u0435\u043c\u0430<\/u><\/em>: \u0414\u043b\u044f \u043b\u044e\u0431\u043e\u0433\u043e \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0433\u043e KAN <img decoding=\"async\" class=\"formula inline\" source=\"f\\colon \\mathbb{R}^n \\to \\mathbb{R}\" alt=\"f\\colon \\mathbb{R}^n \\to \\mathbb{R}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/836\/836af54df43e9e6e0510202e66bef010.svg\" width=\"80\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/836\/836af54df43e9e6e0510202e66bef010.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/836\/836af54df43e9e6e0510202e66bef010.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 ReLU-\u0441\u0435\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"g\\colon \\mathbb{R}^n \\to \\mathbb{R}\" alt=\"g\\colon \\mathbb{R}^n \\to \\mathbb{R}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1b\/1b2\/1b2088d90b5691c2e773d8a37423a904.svg\" width=\"80\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1b\/1b2\/1b2088d90b5691c2e773d8a37423a904.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1b\/1b2\/1b2088d90b5691c2e773d8a37423a904.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0442\u0430\u043a\u0430\u044f, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"f(x) = g(x)\" alt=\"f(x) = g(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/13\/137\/137f9e1b88d1237068c00cd7d0355863.svg\" width=\"88\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/13\/137\/137f9e1b88d1237068c00cd7d0355863.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/13\/137\/137f9e1b88d1237068c00cd7d0355863.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0434\u043b\u044f \u0432\u0441\u0435\u0445 <img decoding=\"async\" class=\"formula inline\" source=\"x \\in \\mathbb{R}^n\" alt=\"x \\in \\mathbb{R}^n\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e91\/e91712019a49ec27396e53b85b22b67d.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e91\/e91712019a49ec27396e53b85b22b67d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e91\/e91712019a49ec27396e53b85b22b67d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0430 \u043a MLP \u0433\u043b\u0443\u0431\u0438\u043d\u0430 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u0430 1, \u0430 \u0448\u0438\u0440\u0438\u043d\u0430 \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0440\u0430\u0432\u043d\u043e\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"n^2(k+1)\" alt=\"n^2(k+1)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/90\/902\/9027282d7c5c5d7316c02b87a01a7a3e.svg\" width=\"72\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/90\/902\/9027282d7c5c5d7316c02b87a01a7a3e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/90\/902\/9027282d7c5c5d7316c02b87a01a7a3e.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0433\u0434\u0435 k &#8212; \u0447\u0438\u0441\u043b\u043e \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u043e\u0432 \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\\phi^{q}_{p}\" alt=\"\\phi^{q}_{p}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4c\/4cd\/4cdef23591445d66111c9b5e23b93c5c.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4c\/4cd\/4cdef23591445d66111c9b5e23b93c5c.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4c\/4cd\/4cdef23591445d66111c9b5e23b93c5c.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. (\u0432\u0435\u0440\u043d\u043e \u0438 \u0434\u043b\u044f <img decoding=\"async\" class=\"formula inline\" source=\"f\\colon \\mathbb{R}^n \\to \\mathbb{R}^m\" alt=\"f\\colon \\mathbb{R}^n \\to \\mathbb{R}^m\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d7\/d70\/d705d3d2687f5e01e41ddbd3d3ffadb9.svg\" width=\"88\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d7\/d70\/d705d3d2687f5e01e41ddbd3d3ffadb9.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d7\/d70\/d705d3d2687f5e01e41ddbd3d3ffadb9.svg 781w\" loading=\"lazy\" decode=\"async\"\/>).<\/p>\n<p>\u0412 \u044d\u0442\u043e\u0439 \u0436\u0435 \u0441\u0442\u0430\u0442\u044c\u0435 \u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0438 \u043e\u0431\u0440\u0430\u0442\u043d\u044b\u0439 \u0444\u0430\u043a\u0442:<\/p>\n<p><em><u>\u0422\u0435\u043e\u0440\u0435\u043c\u0430<\/u><\/em>: \u041f\u0443\u0441\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"g\\colon \\mathbb{R}^n \\to \\mathbb{R}^m\" alt=\"g\\colon \\mathbb{R}^n \\to \\mathbb{R}^m\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a4\/a42\/a425a80a68ae1657f38a865f89922870.svg\" width=\"88\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a4\/a42\/a425a80a68ae1657f38a865f89922870.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a4\/a42\/a425a80a68ae1657f38a865f89922870.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u044d\u0442\u043e MLP-\u0441\u0435\u0442\u044c \u0441 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 \u0438\u0437 \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{F}\" alt=\"\\mathcal{F}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a8\/a86\/a86b476d942a21c30901ddada8bc5f95.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a8\/a86\/a86b476d942a21c30901ddada8bc5f95.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a8\/a86\/a86b476d942a21c30901ddada8bc5f95.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0422\u043e\u0433\u0434\u0430 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 KAN <img decoding=\"async\" class=\"formula inline\" source=\"f\\colon \\mathbb{R}^n \\to \\mathbb{R}^m\" alt=\"f\\colon \\mathbb{R}^n \\to \\mathbb{R}^m\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d7\/d70\/d705d3d2687f5e01e41ddbd3d3ffadb9.svg\" width=\"88\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d7\/d70\/d705d3d2687f5e01e41ddbd3d3ffadb9.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d7\/d70\/d705d3d2687f5e01e41ddbd3d3ffadb9.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u043b\u0438\u0431\u043e \u0430\u0444\u0444\u0438\u043d\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c\u0438, \u043b\u0438\u0431\u043e \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u0430\u0442 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{F}\" alt=\"\\mathcal{F}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a8\/a86\/a86b476d942a21c30901ddada8bc5f95.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a8\/a86\/a86b476d942a21c30901ddada8bc5f95.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a8\/a86\/a86b476d942a21c30901ddada8bc5f95.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u0430\u043a\u043e\u0439 \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"f(x) = g(x)\" alt=\"f(x) = g(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/13\/137\/137f9e1b88d1237068c00cd7d0355863.svg\" width=\"88\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/13\/137\/137f9e1b88d1237068c00cd7d0355863.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/13\/137\/137f9e1b88d1237068c00cd7d0355863.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0434\u043b\u044f \u0432\u0441\u0435\u0445 <img decoding=\"async\" class=\"formula inline\" source=\"x \\in \\mathbb{R}^n\" alt=\"x \\in \\mathbb{R}^n\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e91\/e91712019a49ec27396e53b85b22b67d.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e91\/e91712019a49ec27396e53b85b22b67d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e91\/e91712019a49ec27396e53b85b22b67d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0433\u043b\u0443\u0431\u0438\u043d\u0430 \u0438 \u0448\u0438\u0440\u0438\u043d\u0430 \u0441\u0435\u0442\u0438 \u043d\u0435 \u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u043f\u0440\u0438 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0435 \u043a KAN. \u0412 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438, \u0435\u0441\u043b\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"g\" alt=\"g\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u044d\u0442\u043e ReLU-\u0441\u0435\u0442\u044c, \u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 KAN <img decoding=\"async\" class=\"formula inline\" source=\"f\" alt=\"f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0434\u043b\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e <img decoding=\"async\" class=\"formula inline\" source=\"f(x) = g(x)\" alt=\"f(x) = g(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/13\/137\/137f9e1b88d1237068c00cd7d0355863.svg\" width=\"88\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/13\/137\/137f9e1b88d1237068c00cd7d0355863.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/13\/137\/137f9e1b88d1237068c00cd7d0355863.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043f\u0440\u0438 \u0432\u0441\u0435\u0445 <img decoding=\"async\" class=\"formula inline\" source=\"x \\in \\mathbb{R}^n\" alt=\"x \\in \\mathbb{R}^n\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e91\/e91712019a49ec27396e53b85b22b67d.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e91\/e91712019a49ec27396e53b85b22b67d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e91\/e91712019a49ec27396e53b85b22b67d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u0418\u0437 \u044d\u0442\u0438\u0445 \u0442\u0435\u043e\u0440\u0435\u043c\u0430 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u043e\u043d\u044f\u0442\u044c, \u0447\u0442\u043e<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\mathbf{KAN}(L, n, k) \\subseteq \\mathbf{ReLU}(L+1, n^2(k+1)) \\subseteq \\mathbf{KAN}(L+1,n^2(k+1),1)\" alt=\"\\mathbf{KAN}(L, n, k) \\subseteq \\mathbf{ReLU}(L+1, n^2(k+1)) \\subseteq \\mathbf{KAN}(L+1,n^2(k+1),1)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/00\/004\/0045aa34cb42e175839f14cc63990ebd.svg\" width=\"552\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/00\/004\/0045aa34cb42e175839f14cc63990ebd.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/00\/004\/0045aa34cb42e175839f14cc63990ebd.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0412 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\mathbf{KAN}(2, poly(d), k) \\subseteq \\mathbf{ReLU}{(3, poly(d))}\" alt=\"\\mathbf{KAN}(2, poly(d), k) \\subseteq \\mathbf{ReLU}{(3, poly(d))}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/871\/8717d478a49bfe1560b305ace1ecbe8f.svg\" width=\"312\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/871\/8717d478a49bfe1560b305ace1ecbe8f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/871\/8717d478a49bfe1560b305ace1ecbe8f.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0418\u043d\u0430\u0447\u0435 \u0433\u043e\u0432\u043e\u0440\u044f, \u043b\u044e\u0431\u043e\u0439 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 KAN \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"poly(d)\" alt=\"poly(d)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/019\/019a5888ee167605dd09da5640dc79b2.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/019\/019a5888ee167605dd09da5640dc79b2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/019\/019a5888ee167605dd09da5640dc79b2.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0440\u0435\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d \u0432 \u0432\u0438\u0434\u0435 \u0442\u0440\u0435\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 ReLU MLP \u0441\u0435\u0442\u0438, \u0438\u043c\u0435\u044e\u0449\u0435\u0439 \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u0438\u0430\u043b\u044c\u043d\u0443\u044e \u0448\u0438\u0440\u0438\u043d\u0443 (\u043d\u0430 \u0432\u0441\u044f\u043a\u0438\u0439 \u0441\u043b\u0443\u0447\u0430\u0439 \u043d\u0443\u0436\u043d\u043e \u0443\u0442\u043e\u0447\u043d\u0438\u0442\u044c, \u0447\u0442\u043e \u0448\u0438\u0440\u0438\u043d\u0430 \u0443 \u043d\u0438\u0445 \u043d\u0435 \u043e\u0431\u044f\u0437\u0430\u043d\u0430 \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u0442\u044c, \u043e\u043d\u0430 \u043f\u0440\u043e\u0441\u0442\u043e \u0434\u043e\u043b\u0436\u043d\u0430 \u0431\u044b\u0442\u044c \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440\u0435\u043d\u043d\u043e\u0441\u0442\u0438).<br \/> \u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0438\u043d\u0442\u0435\u0440\u0435\u0441 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0432\u043e\u043f\u0440\u043e\u0441: <strong>\u0435\u0441\u043b\u0438 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043b\u044e\u0431\u043e\u0439 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 KAN \u0442\u0440\u0435\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 ReLU MLP, \u043c\u043e\u0436\u0435\u0442 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0435\u0433\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0448\u0438\u0441\u044c \u043b\u0438\u0448\u044c \u0434\u0432\u0443\u043c\u044f \u0441\u043b\u043e\u044f\u043c\u0438?<\/strong><br \/> \u041e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u043d\u0430 \u044d\u0442\u043e\u0442 \u0432\u043e\u043f\u0440\u043e\u0441 \u0432\u0435\u043b \u0431\u044b \u043a \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u044e \u0432\u043b\u043e\u0436\u0435\u043d\u0438\u044f<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\mathbf{KAN}{(2, poly(d), k)} \\not\\subseteq  \\mathbf{ReLU}{(2, poly(d))}\" alt=\"\\mathbf{KAN}{(2, poly(d), k)} \\not\\subseteq  \\mathbf{ReLU}{(2, poly(d))}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/75\/75c\/75cf3ada23100bc2035f49f945ffb010.svg\" width=\"312\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/75\/75c\/75cf3ada23100bc2035f49f945ffb010.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/75\/75c\/75cf3ada23100bc2035f49f945ffb010.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0430 \u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0431\u044b\u043b\u043e \u0431\u044b \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u043e \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u043c\u0435\u0436\u0434\u0443 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u043c \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c (\u0430 \u0437\u043d\u0430\u0447\u0438\u0442 \u0438 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u043b\u044c\u043d\u044b\u043c) KAN \u0438 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 ReLU MLP (\u0432\u0435\u0437\u0434\u0435 \u0448\u0438\u0440\u0438\u043d\u0430 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u0442\u0441\u044f <img decoding=\"async\" class=\"formula inline\" source=\"poly(d)\" alt=\"poly(d)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/019\/019a5888ee167605dd09da5640dc79b2.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/019\/019a5888ee167605dd09da5640dc79b2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/019\/019a5888ee167605dd09da5640dc79b2.svg 781w\" loading=\"lazy\" decode=\"async\"\/>). \u0422\u043e \u0435\u0441\u0442\u044c, \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043e\u0432\u0430\u043b\u0430 \u0431\u044b \u0442\u0430\u043a\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"g\" alt=\"g\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0447\u0442\u043e \u043e\u043d\u0430 \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u0435\u0442\u0441\u044f \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u043c KAN, \u043d\u043e \u043d\u0435 \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u0435\u0442\u0441\u044f \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 ReLU MLP.<br \/> \u041d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435, \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u043e\u0439\u0442\u0438 \u043d\u0430\u043e\u0431\u043e\u0440\u043e\u0442: \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u044e <img decoding=\"async\" class=\"formula inline\" source=\"g\" alt=\"g\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0430 \u0437\u0430\u0442\u0435\u043c \u043f\u043e\u043a\u0430\u0436\u0435\u043c, \u0447\u0442\u043e \u043e\u043d\u0430 \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u043d\u0443\u0436\u043d\u044b\u043c \u0443\u0441\u043b\u043e\u0432\u0438\u044f\u043c. \u041a\u0430\u043a \u0440\u0430\u0437 \u044d\u0442\u043e\u043c\u0443 \u043f\u043e\u0441\u0432\u044f\u0449\u0435\u043d\u044b \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0440\u0430\u0437\u0434\u0435\u043b\u044b.<\/p>\n<h2>3. \u041f\u043e\u0438\u0441\u043a \u0438\u0441\u043a\u043e\u043c\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438<\/h2>\n<p>\u0412 \u044d\u0442\u043e\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u043d\u0430\u043c \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u044f\u0442\u0441\u044f 2 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u043e\u0431 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u044b\u0445 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u0445 MLP-\u0441\u0435\u0442\u0435\u0439:<\/p>\n<p><em><u>\u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 1<\/u><\/em>: \u0414\u043b\u044f \u0437\u0430\u0434\u0430\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\sigma\" alt=\"\\sigma\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a2\/a2a\/a2ab7d71a0f07f388ff823293c147d21.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a2\/a2a\/a2ab7d71a0f07f388ff823293c147d21.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a2\/a2a\/a2ab7d71a0f07f388ff823293c147d21.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"c_{\\sigma} \\geq 1\" alt=\"c_{\\sigma} \\geq 1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/83d\/83d6f92070fd9d08d17ad1a3edc86a6b.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/83d\/83d6f92070fd9d08d17ad1a3edc86a6b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/83d\/83d6f92070fd9d08d17ad1a3edc86a6b.svg 781w\" loading=\"lazy\" decode=\"async\"\/> (\u0437\u0430\u0432\u0438\u0441\u044f\u0449\u0430\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442 <img decoding=\"async\" class=\"formula inline\" source=\"\\sigma\" alt=\"\\sigma\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a2\/a2a\/a2ab7d71a0f07f388ff823293c147d21.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a2\/a2a\/a2ab7d71a0f07f388ff823293c147d21.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a2\/a2a\/a2ab7d71a0f07f388ff823293c147d21.svg 781w\" loading=\"lazy\" decode=\"async\"\/>), \u0442\u0430\u043a\u0430\u044f \u0447\u0442\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0435:<br \/> \u0414\u043b\u044f \u043b\u044e\u0431\u043e\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 781w\" loading=\"lazy\" decode=\"async\"\/>&#8212;<a href=\"https:\/\/en.wikipedia.org\/wiki\/Lipschitz_continuity\" rel=\"noopener noreferrer nofollow\">\u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u043e\u0439<\/a> \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"f\\colon \\mathbb{R} \\rightarrow \\mathbb{R}\" alt=\"f\\colon \\mathbb{R} \\rightarrow \\mathbb{R}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d1\/d1b\/d1b781210e0f568b67de1f6eaf3d9023.svg\" width=\"72\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d1\/d1b\/d1b781210e0f568b67de1f6eaf3d9023.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d1\/d1b\/d1b781210e0f568b67de1f6eaf3d9023.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u0430 \u0432\u043d\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"[-R, R]\" alt=\"[-R, R]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5b\/5b6\/5b6e321585670ffc5266a22ffdcfa1e3.svg\" width=\"56\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5b\/5b6\/5b6e321585670ffc5266a22ffdcfa1e3.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5b\/5b6\/5b6e321585670ffc5266a22ffdcfa1e3.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0438 \u0434\u043b\u044f \u043b\u044e\u0431\u043e\u0433\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\delta \\gt 0\" alt=\"\\delta \\gt 0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4d\/4df\/4df594f17af4d3e51054079a642d2657.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4d\/4df\/4df594f17af4d3e51054079a642d2657.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4d\/4df\/4df594f17af4d3e51054079a642d2657.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u0441\u043a\u0430\u043b\u044f\u0440\u044b <img decoding=\"async\" class=\"formula inline\" source=\"a, \\{\\alpha_i, \\beta_i, \\gamma_i\\}_{i=1}^w\" alt=\"a, \\{\\alpha_i, \\beta_i, \\gamma_i\\}_{i=1}^w\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/828\/828583669795a30324780a9e622c2478.svg\" width=\"120\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/828\/828583669795a30324780a9e622c2478.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/828\/828583669795a30324780a9e622c2478.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"w \\leq c_{\\sigma}\\frac{RL}{\\delta}\" alt=\"w \\leq c_{\\sigma}\\frac{RL}{\\delta}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a3\/a3d\/a3d964aa98982228d5c997152b59fba9.svg\" width=\"80\" height=\"32\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a3\/a3d\/a3d964aa98982228d5c997152b59fba9.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a3\/a3d\/a3d964aa98982228d5c997152b59fba9.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u0430\u043a\u0438\u0435 \u0447\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u044f<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"h(x) = a + \\sum_{i=1}^w \\alpha_i \\cdot \\sigma(\\beta_i x - \\gamma_i)\" alt=\"h(x) = a + \\sum_{i=1}^w \\alpha_i \\cdot \\sigma(\\beta_i x - \\gamma_i)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/20\/208\/2083db7fd3a223d0d9925ab284eb007b.svg\" width=\"232\" height=\"48\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/20\/208\/2083db7fd3a223d0d9925ab284eb007b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/20\/208\/2083db7fd3a223d0d9925ab284eb007b.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u0443\u0441\u043b\u043e\u0432\u0438\u044e:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\sup_{x \\in \\mathbb{R}} |f(x) - h(x)| \\leq \\delta.\" alt=\"\\sup_{x \\in \\mathbb{R}} |f(x) - h(x)| \\leq \\delta.\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/05\/05f\/05f5b3148bee8124e58a7d62389e9e0d.svg\" width=\"168\" height=\"24\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/05\/05f\/05f5b3148bee8124e58a7d62389e9e0d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/05\/05f\/05f5b3148bee8124e58a7d62389e9e0d.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p><em><u>\u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 2<\/u><\/em>:  \u0424\u0443\u043d\u043a\u0446\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\sigma\" alt=\"\\sigma\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a2\/a2a\/a2ab7d71a0f07f388ff823293c147d21.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a2\/a2a\/a2ab7d71a0f07f388ff823293c147d21.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a2\/a2a\/a2ab7d71a0f07f388ff823293c147d21.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f (\u043b\u0435\u0431\u0435\u0433\u043e\u0432\u043e) \u0438\u0437\u043c\u0435\u0440\u0438\u043c\u043e\u0439 \u0438 \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u0443\u0441\u043b\u043e\u0432\u0438\u044e:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"|\\sigma(x)| \\leq C(1 + |x|^\\alpha)\" alt=\"|\\sigma(x)| \\leq C(1 + |x|^\\alpha)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/eb\/eb4\/eb473df391f4795e989baa93bd09486b.svg\" width=\"152\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/eb\/eb4\/eb473df391f4795e989baa93bd09486b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/eb\/eb4\/eb473df391f4795e989baa93bd09486b.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0434\u043b\u044f \u0432\u0441\u0435\u0445 <img decoding=\"async\" class=\"formula inline\" source=\"x \\in \\mathbb{R}\" alt=\"x \\in \\mathbb{R}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8c\/8cf\/8cf98f68cddfd1125240152b1c9bfb67.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8c\/8cf\/8cf98f68cddfd1125240152b1c9bfb67.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8c\/8cf\/8cf98f68cddfd1125240152b1c9bfb67.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442 <img decoding=\"async\" class=\"formula inline\" source=\"C, \\alpha \\gt 0\" alt=\"C, \\alpha \\gt 0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7e\/7e6\/7e6a3211b9cf4d861c79daece9a38e11.svg\" width=\"64\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7e\/7e6\/7e6a3211b9cf4d861c79daece9a38e11.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7e\/7e6\/7e6a3211b9cf4d861c79daece9a38e11.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u0421\u0442\u043e\u0438\u0442 \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u044d\u0442\u0438 \u0434\u0432\u0430 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u044e\u0442\u0441\u044f \u0434\u043b\u044f \u043c\u043d\u043e\u0433\u0438\u0445 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u0432 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438 \u0434\u043b\u044f ReLU. \u041f\u0435\u0440\u0432\u043e\u0435 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043e \u0442\u043e\u043c, \u0447\u0442\u043e \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u0440\u0438\u0431\u043b\u0438\u0437\u0438\u0442\u044c \u043b\u044e\u0431\u0443\u044e \u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u0441 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u044b\u043c \u043d\u043e\u0441\u0438\u0442\u0435\u043b\u0435\u043c \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 MLP \u0441\u0435\u0442\u0438 \u0441 \u0434\u0430\u043d\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439, \u0430 \u0432\u0442\u043e\u0440\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u0435\u0442 \u0440\u043e\u0441\u0442 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u043c \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u043e\u043c.<\/p>\n<p>\u0412 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u043f\u043e\u0438\u0441\u043a\u0430 \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0449\u0435\u0433\u043e \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430 \u043d\u0430 \u0440\u043e\u043b\u044c &#171;\u043f\u043b\u043e\u0445\u043e\u0439&#187; \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u044f \u0432\u0441\u043f\u043e\u043c\u043d\u0438\u043b \u043f\u0440\u043e \u0441\u0442\u0430\u0442\u044c\u044e 2016 \u0433\u043e\u0434\u0430 \u0441 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0434\u043b\u044f MLP \u0441\u0435\u0442\u0435\u0439 \u0433\u043b\u0443\u0431\u0438\u043d\u044b 2 \u0438 3 &#8212; <a href=\"https:\/\/arxiv.org\/abs\/1512.03965\" rel=\"noopener noreferrer nofollow\">The Power of Depth for Feedforward Neural Networks<\/a>. \u041e\u0441\u043d\u043e\u0432\u043d\u044b\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u043c \u0434\u0430\u043d\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u0442\u0435\u043e\u0440\u0435\u043c\u0430:<\/p>\n<p><em><u>\u0422\u0435\u043e\u0440\u0435\u043c\u0430<\/u><\/em>: \u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0447\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\sigma(\\cdot)\" alt=\"\\sigma(\\cdot)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cf\/cfe\/cfebe6957f3fb318957b3a68c63f02ef.svg\" width=\"24\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cf\/cfe\/cfebe6957f3fb318957b3a68c63f02ef.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cf\/cfe\/cfebe6957f3fb318957b3a68c63f02ef.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u044e 1 \u0441 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u043e\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"c_{\\sigma}\" alt=\"c_{\\sigma}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/018\/018c7a969d34311bed9a89e7f6187eb8.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/018\/018c7a969d34311bed9a89e7f6187eb8.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/018\/018c7a969d34311bed9a89e7f6187eb8.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u044e 2. \u0422\u043e\u0433\u0434\u0430 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u0435 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u044b <img decoding=\"async\" class=\"formula inline\" source=\"c, C \\gt 0\" alt=\"c, C \\gt 0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2a\/2af\/2afd78693b8b86f61d2f0eb7c1391fee.svg\" width=\"56\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2a\/2af\/2afd78693b8b86f61d2f0eb7c1391fee.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2a\/2af\/2afd78693b8b86f61d2f0eb7c1391fee.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0442\u0430\u043a\u0438\u0435, \u0447\u0442\u043e \u0434\u043b\u044f \u043b\u044e\u0431\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"d \\gt C\" alt=\"d \\gt C\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f0\/f0b\/f0b5888957c91bd6620a9336df4f2e53.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f0\/f0b\/f0b5888957c91bd6620a9336df4f2e53.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f0\/f0b\/f0b5888957c91bd6620a9336df4f2e53.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043d\u0430\u0439\u0434\u0435\u0442\u0441\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u0430\u044f \u043c\u0435\u0440\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\mu\" alt=\"\\mu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c9\/c9f\/c9faf6ead2cd2c2187bd943488de1d0a.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c9\/c9f\/c9faf6ead2cd2c2187bd943488de1d0a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c9\/c9f\/c9faf6ead2cd2c2187bd943488de1d0a.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbb{R}^{d}\" alt=\"\\mathbb{R}^{d}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e1\/e1d\/e1d386a1708795c82f15f6de6368d739.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e1\/e1d\/e1d386a1708795c82f15f6de6368d739.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e1\/e1d\/e1d386a1708795c82f15f6de6368d739.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{g}: \\mathbb{R}^{d} \\to \\mathbb{R}\" alt=\"\\tilde{g}: \\mathbb{R}^{d} \\to \\mathbb{R}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/011\/0110c0e0abe86b36759b4a4281b65ea5.svg\" width=\"80\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/011\/0110c0e0abe86b36759b4a4281b65ea5.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/011\/0110c0e0abe86b36759b4a4281b65ea5.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c\u0438 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u0430\u043c\u0438:<\/p>\n<ol>\n<li>\n<p>\u0424\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{g}\" alt=\"\\tilde{g}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0430 \u0432 <img decoding=\"async\" class=\"formula inline\" source=\"[-2, +2]\" alt=\"[-2, +2]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/86\/864\/864d34881024b785c36d393693986ef1.svg\" width=\"64\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/86\/864\/864d34881024b785c36d393693986ef1.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/86\/864\/864d34881024b785c36d393693986ef1.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0438\u043c\u0435\u0435\u0442 \u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c \u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\{\\mathbf{x} : \\|\\mathbf{x}\\| \\leq C\\sqrt{d}\\}\" alt=\"\\{\\mathbf{x} : \\|\\mathbf{x}\\| \\leq C\\sqrt{d}\\}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1b\/1b0\/1b02ed927a980e7e49578ad29fca300e.svg\" width=\"136\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1b\/1b0\/1b02ed927a980e7e49578ad29fca300e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1b\/1b0\/1b02ed927a980e7e49578ad29fca300e.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0430 3-\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u044c\u044e \u0441 \u0448\u0438\u0440\u0438\u043d\u043e\u0439 \u043d\u0435 \u0431\u043e\u043b\u0435\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"Cc_{\\sigma}d^{19\/4}\" alt=\"Cc_{\\sigma}d^{19\/4}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/84\/84a\/84ae6509e7611ae4b4b7db62b1b86d1d.svg\" width=\"64\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/84\/84a\/84ae6509e7611ae4b4b7db62b1b86d1d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/84\/84a\/84ae6509e7611ae4b4b7db62b1b86d1d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<\/li>\n<li>\n<p>\u041b\u044e\u0431\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"f\" alt=\"f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u0441\u0435\u0442\u044c\u044e \u0441 \u0448\u0438\u0440\u0438\u043d\u043e\u0439 \u043d\u0435 \u0431\u043e\u043b\u0435\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"ce^{cd}\" alt=\"ce^{cd}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2f\/2fe\/2fe3657ac5d73e80899e6d21bc380b63.svg\" width=\"24\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2f\/2fe\/2fe3657ac5d73e80899e6d21bc380b63.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2f\/2fe\/2fe3657ac5d73e80899e6d21bc380b63.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u043d\u0435\u0440\u0430\u0432\u0435\u043d\u0441\u0442\u0432\u0443:<\/p>\n<\/li>\n<\/ol>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\mathbb{E}_{\\mathbf{x}\\sim\\mu}\\left(f(\\mathbf{x}) - \\tilde{g}(\\mathbf{x})\\right)^2 \\geq c.\" alt=\"\\mathbb{E}_{\\mathbf{x}\\sim\\mu}\\left(f(\\mathbf{x}) - \\tilde{g}(\\mathbf{x})\\right)^2 \\geq c.\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9c\/9cd\/9cd67b5b70bc1eccdadb933aef7a1d91.svg\" width=\"184\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9c\/9cd\/9cd67b5b70bc1eccdadb933aef7a1d91.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9c\/9cd\/9cd67b5b70bc1eccdadb933aef7a1d91.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c, \u0442\u0435\u043e\u0440\u0435\u043c\u0430 \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043e \u0442\u043e\u043c, \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{g}\" alt=\"\\tilde{g}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u0430\u044f \u043c\u0435\u0440\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\mu\" alt=\"\\mu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c9\/c9f\/c9faf6ead2cd2c2187bd943488de1d0a.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c9\/c9f\/c9faf6ead2cd2c2187bd943488de1d0a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c9\/c9f\/c9faf6ead2cd2c2187bd943488de1d0a.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{g}\" alt=\"\\tilde{g}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043d\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f \u043d\u0438\u043a\u0430\u043a\u043e\u0439 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 ReLU MLP \u0441\u0435\u0442\u044c\u044e  \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u0448\u0438\u0440\u0438\u043d\u044b \u043f\u043e \u043d\u043e\u0440\u043c\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"L_2{(\\mu)}\" alt=\"L_2{(\\mu)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/54\/543\/543a0ad8c783ffe00c8e99c8dfe6930c.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/54\/543\/543a0ad8c783ffe00c8e99c8dfe6930c.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/54\/543\/543a0ad8c783ffe00c8e99c8dfe6930c.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043d\u043e \u0442\u0440\u0435\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0443\u0436\u0435 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0434\u043b\u044f \u0435\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0438\u044f.<\/p>\n<p>\u041c\u043e\u044f \u0438\u0434\u0435\u044f \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u043b\u0430\u0441\u044c \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0442\u0430\u043a\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{g}\" alt=\"\\tilde{g}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u0434\u043e\u0439\u0442\u0438 \u0438 \u0434\u043b\u044f \u043c\u043e\u0435\u0439 \u0437\u0430\u0434\u0430\u0447\u0438. \u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u043d\u0430\u0434\u043e \u0431\u044b\u043b\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u043b\u0438 \u043f\u0440\u0438\u0431\u043b\u0438\u0437\u0438\u0442\u044c \u0435\u0435 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0433\u043e KAN.<\/p>\n<p>\u041f\u0435\u0440\u0435\u0434 \u0442\u0435\u043c, \u043a\u0430\u043a \u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{g}\" alt=\"\\tilde{g}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f KAN-\u043e\u043c, \u043e\u0431\u0441\u0443\u0434\u0438\u043c \u0435\u0435 \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u0435.<\/p>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0437\u0430\u0434\u0430\u0434\u0438\u043c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u0443\u044e \u043c\u0435\u0440\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"\\mu\" alt=\"\\mu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c9\/c9f\/c9faf6ead2cd2c2187bd943488de1d0a.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c9\/c9f\/c9faf6ead2cd2c2187bd943488de1d0a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c9\/c9f\/c9faf6ead2cd2c2187bd943488de1d0a.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbb{R}^d\" alt=\"\\mathbb{R}^d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/19\/19a\/19ad202815dcdc697be0ca2f8af02ed7.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/19\/19a\/19ad202815dcdc697be0ca2f8af02ed7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/19\/19a\/19ad202815dcdc697be0ca2f8af02ed7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u042d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0442\u0430\u043a\u0430\u044f \u043c\u0435\u0440\u0430, \u0447\u0442\u043e \u0435\u0435 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c \u0438\u043c\u0435\u0435\u0442 \u0432\u0438\u0434 <img decoding=\"async\" class=\"formula inline\" source=\"\\phi^2(\\mathbf{x})\" alt=\"\\phi^2(\\mathbf{x})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1d\/1db\/1dbcb23c254af0176593749cff8b20c9.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1d\/1db\/1dbcb23c254af0176593749cff8b20c9.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1d\/1db\/1dbcb23c254af0176593749cff8b20c9.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\phi\" alt=\"\\phi\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1ed\/1ed346930917426bc46d41e22cc525ec.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1ed\/1ed346930917426bc46d41e22cc525ec.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1ed\/1ed346930917426bc46d41e22cc525ec.svg 781w\" loading=\"lazy\" decode=\"async\"\/> &#8212; \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0424\u0443\u0440\u044c\u0435 \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440\u0430 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u043e\u0433\u043e \u0435\u0432\u043a\u043b\u0438\u0434\u043e\u0432\u0430 \u0448\u0430\u0440\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbf{1}\\{\\mathbf{w} \\in R_dB_d\\}\" alt=\"\\mathbf{1}\\{\\mathbf{w} \\in R_dB_d\\}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d4\/d4b\/d4be066c4f2db131c59ae472431bada9.svg\" width=\"104\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d4\/d4b\/d4be066c4f2db131c59ae472431bada9.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d4\/d4b\/d4be066c4f2db131c59ae472431bada9.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0437\u0434\u0435\u0441\u044c <img decoding=\"async\" class=\"formula inline\" source=\"R_d\" alt=\"R_d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d8\/d82\/d82b7de68d66041facca96df4a95cde1.svg\" width=\"16\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d8\/d82\/d82b7de68d66041facca96df4a95cde1.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d8\/d82\/d82b7de68d66041facca96df4a95cde1.svg 781w\" loading=\"lazy\" decode=\"async\"\/> &#8212; \u043c\u043d\u043e\u0436\u0438\u0442\u0435\u043b\u044c, \u0442\u0430\u043a\u043e\u0439, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"Vol(R_dB_d) = 1\" alt=\"Vol(R_dB_d) = 1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d4\/d41\/d41c591b9776392da13ba55e7c3e47c5.svg\" width=\"112\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d4\/d41\/d41c591b9776392da13ba55e7c3e47c5.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d4\/d41\/d41c591b9776392da13ba55e7c3e47c5.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0413\u0440\u0430\u0444\u0438\u043a \u0442\u0430\u043a\u043e\u0439 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u0438 \u0434\u043b\u044f <img decoding=\"async\" class=\"formula inline\" source=\"d = 2\" alt=\"d = 2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f3\/f35\/f35463e2807f2090875f80e2702fdc8d.svg\" width=\"40\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f3\/f35\/f35463e2807f2090875f80e2702fdc8d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f3\/f35\/f35463e2807f2090875f80e2702fdc8d.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d \u043d\u0438\u0436\u0435, \u0430 \u044f\u0432\u043d\u0430\u044f \u0444\u043e\u0440\u043c\u0443\u043b\u0430 \u0438\u043c\u0435\u0435\u0442 \u0432\u0438\u0434<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\varphi(\\mathbf{x}) = \\left(\\frac{R_d}{\\|\\mathbf{x}\\|}\\right)^{d\/2} J_{d\/2}(2\\pi R_d \\|\\mathbf{x}\\|)\" alt=\"\\varphi(\\mathbf{x}) = \\left(\\frac{R_d}{\\|\\mathbf{x}\\|}\\right)^{d\/2} J_{d\/2}(2\\pi R_d \\|\\mathbf{x}\\|)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/27\/276\/276f78a1d81ae7a1b0d46ca9a50dea9a.svg\" width=\"256\" height=\"48\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/27\/276\/276f78a1d81ae7a1b0d46ca9a50dea9a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/27\/276\/276f78a1d81ae7a1b0d46ca9a50dea9a.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"J_{d\/2}(\\cdot)\" alt=\"J_{d\/2}(\\cdot)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f6\/f63\/f634d048c57127dcea75f07d227d1bee.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f6\/f63\/f634d048c57127dcea75f07d227d1bee.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f6\/f63\/f634d048c57127dcea75f07d227d1bee.svg 781w\" loading=\"lazy\" decode=\"async\"\/> &#8212; \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0411\u0435\u0441\u0441\u0435\u043b\u044f \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u0438\u043f\u0430, \u043f\u043e\u0440\u044f\u0434\u043a\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"d\/2\" alt=\"d\/2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/13\/13d\/13dbc000a38a396b099ee29212fa519b.svg\" width=\"24\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/13\/13d\/13dbc000a38a396b099ee29212fa519b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/13\/13d\/13dbc000a38a396b099ee29212fa519b.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. (\u0433\u0440\u0430\u0444\u0438\u043a \u0434\u043b\u044f <img decoding=\"async\" class=\"formula inline\" source=\"J_{20}(\\cdot)\" alt=\"J_{20}(\\cdot)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/419\/419ce1f6be8ce927a378024a771a0e0f.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/419\/419ce1f6be8ce927a378024a771a0e0f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/419\/419ce1f6be8ce927a378024a771a0e0f.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043d\u0438\u0436\u0435) <\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/7a\/dn\/lk\/7adnlkml85nrxt8crfby_8lx7sg.png\" alt=\"\u0413\u0440\u0430\u0444\u0438\u043a \u0438\u0441\u043a\u043e\u043c\u043e\u0439 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u0438, \u0441\u043f\u0440\u0430\u0432\u0430 - \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u043d\u044b\u0439 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/7a\/dn\/lk\/7adnlkml85nrxt8crfby_8lx7sg.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/7a\/dn\/lk\/7adnlkml85nrxt8crfby_8lx7sg.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0413\u0440\u0430\u0444\u0438\u043a \u0438\u0441\u043a\u043e\u043c\u043e\u0439 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u0438, \u0441\u043f\u0440\u0430\u0432\u0430 &#8212; \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u043d\u044b\u0439 \u043c\u0430\u0441\u0448\u0442\u0430\u0431<\/figcaption><\/div>\n<\/figure>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/h7\/f8\/-c\/h7f8-cji1amldwm4mpz5zzzfacw.png\" alt=\"\u0413\u0440\u0430\u0444\u0438\u043a \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0411\u0435\u0441\u0441\u0435\u043b\u044f \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u0438\u043f\u0430 \u043f\u043e\u0440\u044f\u0434\u043a\u0430 20\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/h7\/f8\/-c\/h7f8-cji1amldwm4mpz5zzzfacw.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/h7\/f8\/-c\/h7f8-cji1amldwm4mpz5zzzfacw.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0413\u0440\u0430\u0444\u0438\u043a \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0411\u0435\u0441\u0441\u0435\u043b\u044f \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u0438\u043f\u0430 \u043f\u043e\u0440\u044f\u0434\u043a\u0430 20<\/figcaption><\/div>\n<\/figure>\n<p> \u0418\u0434\u0435\u044f \u0431\u0440\u0430\u0442\u044c \u0438\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043a\u0443\u044e \u043c\u0435\u0440\u0443 \u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0438\u0437 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0438\u0437 \u0441\u0435\u0431\u044f \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u0435 \u043c\u043d\u043e\u0433\u043e\u043c\u0435\u0440\u043d\u044b\u0445 \u0442\u0440\u0443\u0431\u043e\u043a \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u043e\u0433\u043e \u0440\u0430\u0434\u0438\u0443\u0441\u0430, \u043f\u0440\u043e\u0445\u043e\u0434\u044f\u0449\u0438\u0445 \u0447\u0435\u0440\u0435\u0437 \u043d\u0430\u0447\u0430\u043b\u043e \u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442. \u0410 \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\widehat{\\tilde{g}*\\phi}\" alt=\"\\widehat{\\tilde{g}*\\phi}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/19\/194\/1943c1f7f2ad1c905bb78ebfd49eb03a.svg\" width=\"32\" height=\"24\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/19\/194\/1943c1f7f2ad1c905bb78ebfd49eb03a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/19\/194\/1943c1f7f2ad1c905bb78ebfd49eb03a.svg 781w\" loading=\"lazy\" decode=\"async\"\/> (\u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0424\u0443\u0440\u044c\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{g}\" alt=\"\\tilde{g}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\phi\" alt=\"\\phi\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1ed\/1ed346930917426bc46d41e22cc525ec.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1ed\/1ed346930917426bc46d41e22cc525ec.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1ed\/1ed346930917426bc46d41e22cc525ec.svg 781w\" loading=\"lazy\" decode=\"async\"\/>) \u0434\u043e\u043b\u0436\u043d\u0430 \u0438\u043c\u0435\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u0441\u0432\u043e\u0435\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"L_2{(\\mu)}\" alt=\"L_2{(\\mu)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/54\/543\/543a0ad8c783ffe00c8e99c8dfe6930c.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/54\/543\/543a0ad8c783ffe00c8e99c8dfe6930c.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/54\/543\/543a0ad8c783ffe00c8e99c8dfe6930c.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u043c\u0430\u0441\u0441\u044b \u0434\u0430\u043b\u0435\u043a\u043e \u043e\u0442 \u043d\u0430\u0447\u0430\u043b\u0430 \u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442. \u041d\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\widehat{\\tilde{g}\\phi} = \\hat{\\tilde{g}} \\ast \\hat{\\phi}\" alt=\"\\widehat{\\tilde{g}\\phi} = \\hat{\\tilde{g}} \\ast \\hat{\\phi}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d7\/d7b\/d7b7314e11a2d8f4ab6cbe176e9579eb.svg\" width=\"80\" height=\"24\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d7\/d7b\/d7b7314e11a2d8f4ab6cbe176e9579eb.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d7\/d7b\/d7b7314e11a2d8f4ab6cbe176e9579eb.svg 781w\" loading=\"lazy\" decode=\"async\"\/> (\u0441\u043f\u0440\u0430\u0432\u0430 &#8212; \u0441\u0432\u0435\u0440\u0442\u043a\u0430 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0439 \u0424\u0443\u0440\u044c\u0435), \u0430 \u0441\u0432\u0435\u0440\u0442\u043a\u0430 \u0441 \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440\u043e\u043c \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u043e\u0433\u043e \u0448\u0430\u0440\u0430 \u043a\u0430\u043a \u0440\u0430\u0437 &#171;\u0440\u0430\u0437\u043d\u043e\u0441\u0438\u0442&#187; \u043c\u0430\u0441\u0441\u0443 \u043e\u0442 \u0446\u0435\u043d\u0442\u0440\u0430 (\u044d\u0442\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 \u0444\u0430\u043a\u0442 \u0434\u043b\u044f <img decoding=\"async\" class=\"formula inline\" source=\"L_1\" alt=\"L_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2c\/2c6\/2c6f3b6c16df97a1b00e04ff17e4906e.svg\" width=\"16\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2c\/2c6\/2c6f3b6c16df97a1b00e04ff17e4906e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2c\/2c6\/2c6f3b6c16df97a1b00e04ff17e4906e.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043d\u043e \u0438\u0437 \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"g\" alt=\"g\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0432\u0435\u0440\u043d\u043e \u0438 \u0434\u043b\u044f <img decoding=\"async\" class=\"formula inline\" source=\"L_2\" alt=\"L_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/07\/07c\/07cbd6c155424e110559a84df364be5a.svg\" width=\"16\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/07\/07c\/07cbd6c155424e110559a84df364be5a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/07\/07c\/07cbd6c155424e110559a84df364be5a.svg 781w\" loading=\"lazy\" decode=\"async\"\/>). \u041f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435 \u043e\u0431 \u044d\u0442\u043e\u043c \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u0442\u044c \u0432 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u0432 \u0440\u0430\u0437\u0434\u0435\u043b\u0435 &#171;Proof Sketch&#187;. <\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0437\u0430\u0434\u0430\u0434\u0438\u043c <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{g}\" alt=\"\\tilde{g}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043a\u0430\u043a \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u044e \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440\u043e\u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 &#171;\u0442\u043e\u043d\u043a\u0438\u0445&#187; \u043e\u0431\u043e\u043b\u043e\u0447\u0435\u043a:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\tilde{g}(\\mathbf{x}) = \\sum_{i=1}^N \\epsilon_i g_i(\\mathbf{x})\" alt=\"\\tilde{g}(\\mathbf{x}) = \\sum_{i=1}^N \\epsilon_i g_i(\\mathbf{x})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e7\/e72\/e723f3f6e5f3be5a909160dd4dc867af.svg\" width=\"136\" height=\"48\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e7\/e72\/e723f3f6e5f3be5a909160dd4dc867af.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e7\/e72\/e723f3f6e5f3be5a909160dd4dc867af.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\epsilon_i \\in \\{-1, +1\\}\" alt=\"\\epsilon_i \\in \\{-1, +1\\}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/40\/40f\/40fa07e8d8c9f96c954723f6f46f1ae2.svg\" width=\"104\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/40\/40f\/40fa07e8d8c9f96c954723f6f46f1ae2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/40\/40f\/40fa07e8d8c9f96c954723f6f46f1ae2.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"N = poly(d)\" alt=\"N = poly(d)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1f\/1f2\/1f2410668e9f66c5515a20dc4e105311.svg\" width=\"88\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1f\/1f2\/1f2410668e9f66c5515a20dc4e105311.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1f\/1f2\/1f2410668e9f66c5515a20dc4e105311.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"g_i(\\mathbf{x}) = \\mathbf{1}\\{\\|\\mathbf{x}\\| \\in \\Delta_i\\}\" alt=\"g_i(\\mathbf{x}) = \\mathbf{1}\\{\\|\\mathbf{x}\\| \\in \\Delta_i\\}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/da\/dad\/dad39f09f3190e83833b70bdde7b8717.svg\" width=\"160\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/da\/dad\/dad39f09f3190e83833b70bdde7b8717.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/da\/dad\/dad39f09f3190e83833b70bdde7b8717.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta_i\" alt=\"\\Delta_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3f\/3f9\/3f96f28148515487dd810480bcc33722.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3f\/3f9\/3f96f28148515487dd810480bcc33722.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3f\/3f9\/3f96f28148515487dd810480bcc33722.svg 781w\" loading=\"lazy\" decode=\"async\"\/> &#8212; \u043d\u0435\u043f\u0435\u0440\u0435\u0441\u0435\u043a\u0430\u044e\u0449\u0438\u0435\u0441\u044f \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u044b \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{O}{(1\/N)}\" alt=\"\\mathcal{O}{(1\/N)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1c\/1c9\/1c973f9b109fdcb91ccf4b86d1e6fe53.svg\" width=\"56\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1c\/1c9\/1c973f9b109fdcb91ccf4b86d1e6fe53.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1c\/1c9\/1c973f9b109fdcb91ccf4b86d1e6fe53.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043b\u0435\u0436\u0430\u0442 \u0432 \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{\\Theta}{(\\sqrt{d})}\" alt=\"\\mathcal{\\Theta}{(\\sqrt{d})}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b5\/7b5ba4f6f2fcb9091ec03cd5bb483022.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b5\/7b5ba4f6f2fcb9091ec03cd5bb483022.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b5\/7b5ba4f6f2fcb9091ec03cd5bb483022.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0411\u043e\u043b\u0435\u0435 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0435 \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u0435 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u0432 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 <a href=\"https:\/\/arxiv.org\/pdf\/1512.03965\" rel=\"noopener noreferrer nofollow\">\u0441\u0442\u0430\u0442\u044c\u0435<\/a>, \u043b\u0438\u0431\u043e \u0432 \u043f\u043e\u043b\u043d\u043e\u043c \u0442\u0435\u043a\u0441\u0442\u0435 \u043c\u043e\u0435\u0439 <a href=\"https:\/\/github.com\/Artur4ik2304\/On-the-expressiveness-of-piecewise-linear-KAN-and-ReLU-MLP\/blob\/main\/text.pdf\" rel=\"noopener noreferrer nofollow\">\u043a\u0443\u0440\u0441\u043e\u0432\u043e\u0439<\/a>.<\/p>\n<h2>4. \u041f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0438\u0435 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e KAN<\/h2>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043d\u0430\u043c \u043e\u0441\u0442\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u0447\u0442\u043e \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u0430\u044f \u0432 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u043c \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c KAN. \u0422\u043e\u0433\u0434\u0430, \u0432 \u0441\u0438\u043b\u0443 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 ReLU MLP \u043e\u043d\u0430 \u043d\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f, \u0431\u0443\u0434\u0435\u0442 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u0430 \u043d\u0435\u0432\u043b\u043e\u0436\u0438\u043c\u043e\u0441\u0442\u044c \u043a\u043b\u0430\u0441\u0441\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbf{KAN}{(2, poly(d), k)} \\not\\subseteq  \\mathbf{ReLU}{(2, poly(d))}\" alt=\"\\mathbf{KAN}{(2, poly(d), k)} \\not\\subseteq  \\mathbf{ReLU}{(2, poly(d))}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/75\/75c\/75cf3ada23100bc2035f49f945ffb010.svg\" width=\"312\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/75\/75c\/75cf3ada23100bc2035f49f945ffb010.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/75\/75c\/75cf3ada23100bc2035f49f945ffb010.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u041d\u0430\u0447\u043d\u0435\u043c \u0441 \u043f\u0435\u0440\u0435\u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u043a\u0438 \u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u044f 1 \u0438\u0437 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0433\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0430 \u0434\u043b\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b KAN:<\/p>\n<p><em><u>\u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 1(KAN)<\/u><\/em>: \u041f\u0443\u0441\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"\\phi\" alt=\"\\phi\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1ed\/1ed346930917426bc46d41e22cc525ec.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1ed\/1ed346930917426bc46d41e22cc525ec.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1ed\/1ed346930917426bc46d41e22cc525ec.svg 781w\" loading=\"lazy\" decode=\"async\"\/> &#8212; \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f (\u0441\u043f\u043b\u0430\u0439\u043d \u0441 <img decoding=\"async\" class=\"formula inline\" source=\"K + 1\" alt=\"K + 1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2e\/2eb\/2ebc3360d12254e28435083d686fd732.svg\" width=\"40\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2e\/2eb\/2ebc3360d12254e28435083d686fd732.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2e\/2eb\/2ebc3360d12254e28435083d686fd732.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u043c\u0438), \u0442\u043e\u0433\u0434\u0430 \u0434\u043b\u044f \u043b\u044e\u0431\u043e\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"f: \\mathbb{R} \\to \\mathbb{R}\" alt=\"f: \\mathbb{R} \\to \\mathbb{R}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/63\/632\/63229536523f407f37a9f052c6b5af8f.svg\" width=\"72\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/63\/632\/63229536523f407f37a9f052c6b5af8f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/63\/632\/63229536523f407f37a9f052c6b5af8f.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u0430\u043a\u043e\u0439, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"f \\equiv const\" alt=\"f \\equiv const\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fe\/8fe8260adf12509a8c79bff1af4353f3.svg\" width=\"72\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fe\/8fe8260adf12509a8c79bff1af4353f3.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fe\/8fe8260adf12509a8c79bff1af4353f3.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0432\u043d\u0435 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"[-R, R]\" alt=\"[-R, R]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5b\/5b6\/5b6e321585670ffc5266a22ffdcfa1e3.svg\" width=\"56\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5b\/5b6\/5b6e321585670ffc5266a22ffdcfa1e3.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5b\/5b6\/5b6e321585670ffc5266a22ffdcfa1e3.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u0434\u043b\u044f \u043b\u044e\u0431\u043e\u0433\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\delta \\gt 0\" alt=\"\\delta \\gt 0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4d\/4df\/4df594f17af4d3e51054079a642d2657.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4d\/4df\/4df594f17af4d3e51054079a642d2657.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4d\/4df\/4df594f17af4d3e51054079a642d2657.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043d\u0430\u0439\u0434\u0435\u0442\u0441\u044f <img decoding=\"async\" class=\"formula inline\" source=\"K \\in \\mathbb{N}\" alt=\"K \\in \\mathbb{N}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e9a\/e9a3d7920f5def5679fd7f1f7bbe0147.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e9a\/e9a3d7920f5def5679fd7f1f7bbe0147.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e9a\/e9a3d7920f5def5679fd7f1f7bbe0147.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u0430\u043a\u043e\u0435, \u0447\u0442\u043e \u0432\u0435\u0440\u043d\u043e:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\sup_{x\\in\\mathbb{R}}|f(x) - \\phi(x)| \\leq \\delta\\\" alt=\"\\sup_{x\\in\\mathbb{R}}|f(x) - \\phi(x)| \\leq \\delta\\\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cb\/cb5\/cb5a0031d65d2347f2dd2ac0bacc219a.svg\" width=\"704\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cb\/cb5\/cb5a0031d65d2347f2dd2ac0bacc219a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cb\/cb5\/cb5a0031d65d2347f2dd2ac0bacc219a.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0417\u0430\u043c\u0435\u0442\u0438\u043c, \u0447\u0442\u043e \u0434\u043b\u044f \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0441\u043f\u043b\u0430\u0439\u043d\u043e\u0432 \u044d\u0442\u043e \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f. \u041e\u0442\u0440\u0435\u0437\u043e\u043a <img decoding=\"async\" class=\"formula inline\" source=\"[-R, R]\" alt=\"[-R, R]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5b\/5b6\/5b6e321585670ffc5266a22ffdcfa1e3.svg\" width=\"56\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5b\/5b6\/5b6e321585670ffc5266a22ffdcfa1e3.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5b\/5b6\/5b6e321585670ffc5266a22ffdcfa1e3.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043c\u043e\u0436\u043d\u043e \u0440\u0430\u0437\u0431\u0438\u0442\u044c \u043d\u0430 K \u0440\u0430\u0432\u043d\u044b\u0445 \u0447\u0430\u0441\u0442\u0435\u0439 \u0441 \u0448\u0430\u0433\u043e\u043c <img decoding=\"async\" class=\"formula inline\" source=\"h = \\frac{2R}{K}\" alt=\"h = \\frac{2R}{K}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9c\/9c6\/9c6ec8ac1521c58c3def532e9ebb7950.svg\" width=\"64\" height=\"32\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9c\/9c6\/9c6ec8ac1521c58c3def532e9ebb7950.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9c\/9c6\/9c6ec8ac1521c58c3def532e9ebb7950.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0437\u0430\u0442\u0435\u043c \u0441\u0442\u0440\u043e\u0438\u043c \u0441\u043f\u043b\u0430\u0439\u043d <img decoding=\"async\" class=\"formula inline\" source=\"S(x)\" alt=\"S(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/34\/349\/34999b3844747f7ae0be7ab5675e633a.svg\" width=\"32\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/34\/349\/34999b3844747f7ae0be7ab5675e633a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/34\/349\/34999b3844747f7ae0be7ab5675e633a.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u044e\u0449\u0438\u0439 \u0441 <img decoding=\"async\" class=\"formula inline\" source=\"f(x)\" alt=\"f(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/50\/50b\/50bbd36e1fd2333108437a2ca378be62.svg\" width=\"32\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/50\/50b\/50bbd36e1fd2333108437a2ca378be62.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/50\/50b\/50bbd36e1fd2333108437a2ca378be62.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0432 \u0442\u043e\u0447\u043a\u0430\u0445 <img decoding=\"async\" class=\"formula inline\" source=\"x_i = -R + ih\" alt=\"x_i = -R + ih\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8c\/8cc\/8cc42f4f56bdbd1ffe9ea073ff598991.svg\" width=\"104\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8c\/8cc\/8cc42f4f56bdbd1ffe9ea073ff598991.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8c\/8cc\/8cc42f4f56bdbd1ffe9ea073ff598991.svg 781w\" loading=\"lazy\" decode=\"async\"\/>:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"S(x) = \\left\\{ \\begin{array}{l} f(x_i) + \\frac{f(x_{i+1}) - f(x_i)}{h}(x-x_i) \\quad x\\in[x_i, x_{i+1}], \\\\ f(x) \\equiv const \\quad x \\notin [-R, R] \\\\ \\end{array} \\right.\" alt=\"S(x) = \\left\\{ \\begin{array}{l} f(x_i) + \\frac{f(x_{i+1}) - f(x_i)}{h}(x-x_i) \\quad x\\in[x_i, x_{i+1}], \\\\ f(x) \\equiv const \\quad x \\notin [-R, R] \\\\ \\end{array} \\right.\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0e\/0e4\/0e4712a978156705151f143e51d984ea.svg\" width=\"408\" height=\"48\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0e\/0e4\/0e4712a978156705151f143e51d984ea.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0e\/0e4\/0e4712a978156705151f143e51d984ea.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u041e\u0446\u0435\u043d\u0438\u043c \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0438\u044f, \u0442\u0430\u043a \u043a\u0430\u043a <img decoding=\"async\" class=\"formula inline\" source=\"f(x)\" alt=\"f(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/50\/50b\/50bbd36e1fd2333108437a2ca378be62.svg\" width=\"32\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/50\/50b\/50bbd36e1fd2333108437a2ca378be62.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/50\/50b\/50bbd36e1fd2333108437a2ca378be62.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u043e\u0439, \u0442\u043e \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u043e\u0442\u0440\u0435\u0437\u043a\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"[x_{i}, x_{i+1}]\" alt=\"[x_{i}, x_{i+1}]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e3\/e39\/e3923b4a20483ec015c8f2e401d99c14.svg\" width=\"64\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e3\/e39\/e3923b4a20483ec015c8f2e401d99c14.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e3\/e39\/e3923b4a20483ec015c8f2e401d99c14.svg 781w\" loading=\"lazy\" decode=\"async\"\/>:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\sup_{x\\in\\mathbb{R}}|f(x)-S(x)| \\leq L \\cdot h\\\" alt=\"\\sup_{x\\in\\mathbb{R}}|f(x)-S(x)| \\leq L \\cdot h\\\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2c\/2c1\/2c1ec7dc86d38fab69b9528f02f0ef52.svg\" width=\"680\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2c\/2c1\/2c1ec7dc86d38fab69b9528f02f0ef52.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2c\/2c1\/2c1ec7dc86d38fab69b9528f02f0ef52.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0427\u0442\u043e\u0431\u044b \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u043b\u043e\u0441\u044c <img decoding=\"async\" class=\"formula inline\" source=\"L \\cdot h \\leq \\delta\" alt=\"L \\cdot h \\leq \\delta\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/85\/85c\/85c83fdb374a5b3dc77260b14933218e.svg\" width=\"64\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/85\/85c\/85c83fdb374a5b3dc77260b14933218e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/85\/85c\/85c83fdb374a5b3dc77260b14933218e.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"h \\leq \\frac{\\delta}{L}\" alt=\"h \\leq \\frac{\\delta}{L}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d5\/d5a\/d5af3b04cec9803f1d4058fce81e74a4.svg\" width=\"48\" height=\"32\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d5\/d5a\/d5af3b04cec9803f1d4058fce81e74a4.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d5\/d5a\/d5af3b04cec9803f1d4058fce81e74a4.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442.\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"K \\geq \\frac{2LR}{\\delta}\" alt=\"K \\geq \\frac{2LR}{\\delta}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2c\/2c9\/2c9ecda6aa659e614c5f592e9cc3ecc4.svg\" width=\"80\" height=\"32\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2c\/2c9\/2c9ecda6aa659e614c5f592e9cc3ecc4.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2c\/2c9\/2c9ecda6aa659e614c5f592e9cc3ecc4.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u0422\u0430\u043a\u0436\u0435 \u043d\u0430\u043c \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u0438\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u043b\u0435\u043c\u043c\u0430 \u0438\u0437 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438:<\/p>\n<p><em><u>\u041b\u0435\u043c\u043c\u0430 1<\/u><\/em>: \u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"d \\geq 2\" alt=\"d \\geq 2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6b\/6b4\/6b4bf94b98e1dbbb0241d04aeb9f54b7.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6b\/6b4\/6b4bf94b98e1dbbb0241d04aeb9f54b7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6b\/6b4\/6b4bf94b98e1dbbb0241d04aeb9f54b7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0414\u043b\u044f \u043b\u044e\u0431\u043e\u0433\u043e \u0432\u044b\u0431\u043e\u0440\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\epsilon_i \\in \\{-1, +1\\}\" alt=\"\\epsilon_i \\in \\{-1, +1\\}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/40\/40f\/40fa07e8d8c9f96c954723f6f46f1ae2.svg\" width=\"104\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/40\/40f\/40fa07e8d8c9f96c954723f6f46f1ae2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/40\/40f\/40fa07e8d8c9f96c954723f6f46f1ae2.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"i = 1, \\ldots, N\" alt=\"i = 1, \\ldots, N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/49b\/49bfb2130de5717f9054b41bfc628ec6.svg\" width=\"88\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/49b\/49bfb2130de5717f9054b41bfc628ec6.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/49b\/49bfb2130de5717f9054b41bfc628ec6.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 <img decoding=\"async\" class=\"formula inline\" source=\"N\" alt=\"N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8d\/8d9\/8d9c307cb7f3c4a32822a51922d1ceaa.svg\" width=\"16\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8d\/8d9\/8d9c307cb7f3c4a32822a51922d1ceaa.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8d\/8d9\/8d9c307cb7f3c4a32822a51922d1ceaa.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"f\" alt=\"f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442\u0441\u044f \u0432 <img decoding=\"async\" class=\"formula inline\" source=\"[\\alpha \\sqrt{d}, 2\\alpha \\sqrt{d}]\" alt=\"[\\alpha \\sqrt{d}, 2\\alpha \\sqrt{d}]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/99\/99d\/99d9e9ce8cae1070110cbbda23831147.svg\" width=\"96\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/99\/99d\/99d9e9ce8cae1070110cbbda23831147.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/99\/99d\/99d9e9ce8cae1070110cbbda23831147.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u044e\u0449\u0430\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432 <img decoding=\"async\" class=\"formula inline\" source=\"[-1, +1]\" alt=\"[-1, +1]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3b\/3b3\/3b3ccd75da47d98dbdf8c99dcafb0cfa.svg\" width=\"64\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3b\/3b3\/3b3ccd75da47d98dbdf8c99dcafb0cfa.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3b\/3b3\/3b3ccd75da47d98dbdf8c99dcafb0cfa.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u044e\u0449\u0430\u044f \u0443\u0441\u043b\u043e\u0432\u0438\u044e<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\int\\left( f(\\mathbf{x}) - \\sum_{i=1}^N \\epsilon_i g_i(\\mathbf{x}) \\right)^{2} \\varphi^2(\\mathbf{x}) dx \\leq \\frac{3}{\\alpha^2 \\sqrt{d}}\" alt=\"\\int\\left( f(\\mathbf{x}) - \\sum_{i=1}^N \\epsilon_i g_i(\\mathbf{x}) \\right)^{2} \\varphi^2(\\mathbf{x}) dx \\leq \\frac{3}{\\alpha^2 \\sqrt{d}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7f\/7f0\/7f0d48a64c93742779b194e0ae61990d.svg\" width=\"336\" height=\"56\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7f\/7f0\/7f0d48a64c93742779b194e0ae61990d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7f\/7f0\/7f0d48a64c93742779b194e0ae61990d.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0417\u0434\u0435\u0441\u044c <img decoding=\"async\" class=\"formula inline\" source=\"\\alpha \\geq 1\" alt=\"\\alpha \\geq 1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2b\/2b9\/2b91bd5752515e2a063e004411da013c.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2b\/2b9\/2b91bd5752515e2a063e004411da013c.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2b\/2b9\/2b91bd5752515e2a063e004411da013c.svg 781w\" loading=\"lazy\" decode=\"async\"\/> &#8212; \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0447\u0438\u0441\u043b\u043e\u0432\u0430\u044f \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0434\u043e\u043b\u0436\u043d\u0430 \u0431\u044b\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0435 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0433\u043e \u043f\u043e\u0440\u043e\u0433\u0430, \u0442\u0430\u043a\u0436\u0435 \u043e\u043d\u0430 \u0443\u0447\u0430\u0441\u0442\u0432\u0443\u0435\u0442 \u0432 \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{g}\" alt=\"\\tilde{g}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 781w\" loading=\"lazy\" decode=\"async\"\/> (\u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435 \u0432 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435).<\/p>\n<p>\u0418\u0437 \u0434\u0430\u043d\u043d\u043e\u0439 \u043b\u0435\u043c\u043c\u044b \u0443\u0436\u0435 \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u043d\u0430\u0448\u0430 &#171;\u043f\u043b\u043e\u0445\u0430\u044f&#187; \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0430 \u043f\u043e <img decoding=\"async\" class=\"formula inline\" source=\"L_2{(\\mu)}\" alt=\"L_2{(\\mu)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/54\/543\/543a0ad8c783ffe00c8e99c8dfe6930c.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/54\/543\/543a0ad8c783ffe00c8e99c8dfe6930c.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/54\/543\/543a0ad8c783ffe00c8e99c8dfe6930c.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u043d\u043e\u0440\u043c\u0435 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 \u043c\u043d\u043e\u0433\u0438\u0445 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445. \u0417\u0430\u043c\u0435\u0442\u0438\u043c \u0442\u0430\u043a\u0436\u0435, \u0447\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{g}\" alt=\"\\tilde{g}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0437\u0430\u0432\u0438\u0441\u044f\u0442 \u043b\u0438\u0448\u044c \u043e\u0442 \u043d\u043e\u0440\u043c\u044b <img decoding=\"async\" class=\"formula inline\" source=\"\\|\\mathbf{x}\\|\" alt=\"\\|\\mathbf{x}\\|\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/39\/390\/390fe2f234c96decc123b7516dddaeec.svg\" width=\"24\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/39\/390\/390fe2f234c96decc123b7516dddaeec.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/39\/390\/390fe2f234c96decc123b7516dddaeec.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u041e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u043f\u043e\u043d\u044f\u0442\u044c, \u043c\u043e\u0436\u0435\u043c \u043b\u0438 \u043c\u044b \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0442\u044c \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u043c \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c KAN \u0442\u0430\u043a\u0438\u0435 \u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u044b \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u0437\u0430\u0432\u0438\u0441\u044f\u0449\u0438\u0439 \u043e\u0442 \u043d\u043e\u0440\u043c\u044b \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0432\u0435\u043a\u0442\u043e\u0440\u0430. \u041e\u0431 \u044d\u0442\u043e\u043c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u043b\u0435\u043c\u043c\u0430:<\/p>\n<p><em><u>\u041b\u0435\u043c\u043c\u0430 2<\/u><\/em>: \u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0447\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\phi\" alt=\"\\phi\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1ed\/1ed346930917426bc46d41e22cc525ec.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1ed\/1ed346930917426bc46d41e22cc525ec.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1ed\/1ed346930917426bc46d41e22cc525ec.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u044e 1(KAN). \u041f\u0443\u0441\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"f\" alt=\"f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 781w\" loading=\"lazy\" decode=\"async\"\/> &#8212; <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0441 \u043d\u043e\u0441\u0438\u0442\u0435\u043b\u0435\u043c \u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"[r, R]\" alt=\"[r, R]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a7\/a7e\/a7e18e4fe6ba263925d59f446a438e7d.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a7\/a7e\/a7e18e4fe6ba263925d59f446a438e7d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a7\/a7e\/a7e18e4fe6ba263925d59f446a438e7d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"r \\geq 1\" alt=\"r \\geq 1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/26a\/26a943b15a2c2a13f8a2ea9e947d9ded.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/26a\/26a943b15a2c2a13f8a2ea9e947d9ded.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/26a\/26a943b15a2c2a13f8a2ea9e947d9ded.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0422\u043e\u0433\u0434\u0430 \u0434\u043b\u044f \u043b\u044e\u0431\u043e\u0433\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\delta \\gt 0\" alt=\"\\delta \\gt 0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4d\/4df\/4df594f17af4d3e51054079a642d2657.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4d\/4df\/4df594f17af4d3e51054079a642d2657.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4d\/4df\/4df594f17af4d3e51054079a642d2657.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"g\" alt=\"g\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043c\u0430\u044f \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u043c \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c KAN \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"d\" alt=\"d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0447\u0438\u0441\u043b\u043e \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u043e\u0432 \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"K \\geq \\frac{2RL}{\\sqrt{r}\\delta}\\cdot\\max(R, L)\" alt=\"K \\geq \\frac{2RL}{\\sqrt{r}\\delta}\\cdot\\max(R, L)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/62\/620\/6206341ad6f5cc6a64df539d8f8ee101.svg\" width=\"176\" height=\"40\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/62\/620\/6206341ad6f5cc6a64df539d8f8ee101.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/62\/620\/6206341ad6f5cc6a64df539d8f8ee101.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u0430\u043a\u0430\u044f \u0447\u0442\u043e<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\sup_{\\mathbf{x}\\in\\mathbb{R}^{d}}|g(\\mathbf{x}) - f(\\|\\mathbf{x}\\|)| &lt; \\delta.\" alt=\"\\sup_{\\mathbf{x}\\in\\mathbb{R}^{d}}|g(\\mathbf{x}) - f(\\|\\mathbf{x}\\|)| &lt; \\delta.\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4f\/4fc\/4fc5c6c0f161b880656f10c1ef793854.svg\" width=\"184\" height=\"32\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4f\/4fc\/4fc5c6c0f161b880656f10c1ef793854.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4f\/4fc\/4fc5c6c0f161b880656f10c1ef793854.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p><em><u>\u0414\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u043e<\/u><\/em>: \u041e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u043c <img decoding=\"async\" class=\"formula inline\" source=\"2R\" alt=\"2R\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/14\/149\/149e2d0a34006684e8f8e1ebd827f681.svg\" width=\"16\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/14\/149\/149e2d0a34006684e8f8e1ebd827f681.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/14\/149\/149e2d0a34006684e8f8e1ebd827f681.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u044e<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"l(x) = \\min(x^2, R^2)\" alt=\"l(x) = \\min(x^2, R^2)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/911\/911b362671acc1e64049821abdbec0cc.svg\" width=\"144\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/911\/911b362671acc1e64049821abdbec0cc.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/911\/911b362671acc1e64049821abdbec0cc.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u0430 \u0432\u043d\u0435 \u043e\u0442\u0440\u0435\u0437\u043a\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"[-R, R]\" alt=\"[-R, R]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5b\/5b6\/5b6e321585670ffc5266a22ffdcfa1e3.svg\" width=\"56\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5b\/5b6\/5b6e321585670ffc5266a22ffdcfa1e3.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5b\/5b6\/5b6e321585670ffc5266a22ffdcfa1e3.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0422\u0430\u043a\u0438\u043c\u0438 \u0436\u0435 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u0430\u043c\u0438 \u043e\u0431\u043b\u0430\u0434\u0430\u0435\u0442 \u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u044f<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"l(\\mathbf{x}) = \\sum_{i=1}^{d}l(x_i)\" alt=\"l(\\mathbf{x}) = \\sum_{i=1}^{d}l(x_i)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c7\/c7c\/c7c2d30f7111e6e162785d96abab1e9f.svg\" width=\"112\" height=\"48\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c7\/c7c\/c7c2d30f7111e6e162785d96abab1e9f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c7\/c7c\/c7c2d30f7111e6e162785d96abab1e9f.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u0430\u044f \u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbb{R}^d\" alt=\"\\mathbb{R}^d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/19\/19a\/19ad202815dcdc697be0ca2f8af02ed7.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/19\/19a\/19ad202815dcdc697be0ca2f8af02ed7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/19\/19a\/19ad202815dcdc697be0ca2f8af02ed7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u041f\u0440\u0438\u043c\u0435\u043d\u0438\u043c \u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 1(KAN) \u043a \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"l(\\cdot)\" alt=\"l(\\cdot)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/05\/05e\/05e9f3c12775a366a674303e89b798ee.svg\" width=\"24\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/05\/05e\/05e9f3c12775a366a674303e89b798ee.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/05\/05e\/05e9f3c12775a366a674303e89b798ee.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u044e <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{l}(x) = \\phi(x)\" alt=\"\\tilde{l}(x) = \\phi(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f5\/f53\/f5308358de0ec26919cf312c1dfab965.svg\" width=\"88\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f5\/f53\/f5308358de0ec26919cf312c1dfab965.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f5\/f53\/f5308358de0ec26919cf312c1dfab965.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0442\u0430\u043a\u0443\u044e, \u0447\u0442\u043e<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\sup_{x\\in\\mathbb{R}}|\\tilde{l}(x) - l(x)| \\leq \\frac{\\sqrt{r}\\delta}{dL}\" alt=\"\\sup_{x\\in\\mathbb{R}}|\\tilde{l}(x) - l(x)| \\leq \\frac{\\sqrt{r}\\delta}{dL}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4c\/4c4\/4c4c6c96bf798b82bcd04ef4133e4fe4.svg\" width=\"184\" height=\"40\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4c\/4c4\/4c4c6c96bf798b82bcd04ef4133e4fe4.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4c\/4c4\/4c4c6c96bf798b82bcd04ef4133e4fe4.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0422\u0430\u043a\u043e\u0435 \u043d\u0435\u0440\u0430\u0432\u0435\u043d\u0441\u0442\u0432\u043e \u0432\u0435\u0440\u043d\u043e \u043f\u0440\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"K \\geq \\frac{2RL^2}{\\sqrt{r}\\delta}\" alt=\"K \\geq \\frac{2RL^2}{\\sqrt{r}\\delta}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/da\/da5\/da5e36876ee35666c90829bd08f31c5a.svg\" width=\"88\" height=\"40\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/da\/da5\/da5e36876ee35666c90829bd08f31c5a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/da\/da5\/da5e36876ee35666c90829bd08f31c5a.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0421\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u0444\u0443\u043d\u043a\u0446\u0438\u044f<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\tilde{l}(\\mathbf{x}) = \\sum_{i=1}^d\\tilde{l}(x_i)\" alt=\"\\tilde{l}(\\mathbf{x}) = \\sum_{i=1}^d\\tilde{l}(x_i)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/57\/571\/571d0e22963490af74eb2e696b6dbd6c.svg\" width=\"112\" height=\"48\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/57\/571\/571d0e22963490af74eb2e696b6dbd6c.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/57\/571\/571d0e22963490af74eb2e696b6dbd6c.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0431\u0443\u0434\u0435\u0442 \u0438\u043c\u0435\u0442\u044c \u0432\u0438\u0434 <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{l}(\\mathbf{x}) = \\sum_{i=1}^d\\phi_i(x_i)\" alt=\"\\tilde{l}(\\mathbf{x}) = \\sum_{i=1}^d\\phi_i(x_i)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f9\/f90\/f90fd4876b0514724dca4a99b2d57812.svg\" width=\"128\" height=\"48\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f9\/f90\/f90fd4876b0514724dca4a99b2d57812.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f9\/f90\/f90fd4876b0514724dca4a99b2d57812.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u0412\u0432\u0435\u0434\u0435\u043c \u0442\u0435\u043f\u0435\u0440\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0443\u044e \u0444\u0443\u043d\u043a\u0446\u0438\u044e:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"s(x) = \\left\\{ \\begin{array}{l} f(\\sqrt{x}) \\quad x \\geq 0, \\\\ 0 \\quad x &lt; 0 \\\\ \\end{array} \\right.\" alt=\"s(x) = \\left\\{ \\begin{array}{l} f(\\sqrt{x}) \\quad x \\geq 0, \\\\ 0 \\quad x &lt; 0 \\\\ \\end{array} \\right.\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/04\/04e\/04edd8627c5460df16872ef018f183f2.svg\" width=\"184\" height=\"40\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/04\/04e\/04edd8627c5460df16872ef018f183f2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/04\/04e\/04edd8627c5460df16872ef018f183f2.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0422\u0430\u043a \u043a\u0430\u043a <img decoding=\"async\" class=\"formula inline\" source=\"f\" alt=\"f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d2\/d20\/d20caec3b48a1eef164cb4ca81ba2587.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u043e\u0439 \u0441 \u043d\u043e\u0441\u0438\u0442\u0435\u043b\u0435\u043c \u0432 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\{x \\colon r \\leq x \\leq R\\}\" alt=\"\\{x \\colon r \\leq x \\leq R\\}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/ad\/adb\/adbfc2c9742fe9fb1498d83ea653794d.svg\" width=\"112\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/ad\/adb\/adbfc2c9742fe9fb1498d83ea653794d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/ad\/adb\/adbfc2c9742fe9fb1498d83ea653794d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043e\u0442\u0441\u044e\u0434\u0430 \u0441\u043b\u0435\u0434\u0443\u0435\u0442, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"s\" alt=\"s\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/03\/03c\/03c7c0ace395d80182db07ae2c30f034.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/03\/03c\/03c7c0ace395d80182db07ae2c30f034.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/03\/03c\/03c7c0ace395d80182db07ae2c30f034.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\frac{L}{2\\sqrt{r}}\" alt=\"\\frac{L}{2\\sqrt{r}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/411\/4115a7960f648766747dc20840a47a85.svg\" width=\"40\" height=\"40\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/411\/4115a7960f648766747dc20840a47a85.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/411\/4115a7960f648766747dc20840a47a85.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u043e\u0439 \u0441 \u043d\u043e\u0441\u0438\u0442\u0435\u043b\u0435\u043c \u0432 <img decoding=\"async\" class=\"formula inline\" source=\"[-R^2, R^2]\" alt=\"[-R^2, R^2]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/28\/282\/282cdc753aa43f06ceeceb8b8e43d0e6.svg\" width=\"72\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/28\/282\/282cdc753aa43f06ceeceb8b8e43d0e6.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/28\/282\/282cdc753aa43f06ceeceb8b8e43d0e6.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0421\u043d\u043e\u0432\u0430 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043c \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 1(KAN) \u043a \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"s{(\\cdot)}\" alt=\"s{(\\cdot)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3e\/3e1\/3e1060cd3702985a8a9ee91531a933c2.svg\" width=\"24\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3e\/3e1\/3e1060cd3702985a8a9ee91531a933c2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3e\/3e1\/3e1060cd3702985a8a9ee91531a933c2.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441 <img decoding=\"async\" class=\"formula inline\" source=\"K \\geq \\frac{2R^2L}{\\sqrt{r}\\delta}\" alt=\"K \\geq \\frac{2R^2L}{\\sqrt{r}\\delta}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8d\/8df\/8df915af745f9f2ae0620d28f1bcb7bc.svg\" width=\"88\" height=\"40\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8d\/8df\/8df915af745f9f2ae0620d28f1bcb7bc.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8d\/8df\/8df915af745f9f2ae0620d28f1bcb7bc.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u041f\u043e\u043b\u0443\u0447\u0438\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u044e <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{s}(x) = \\eta(x)\" alt=\"\\tilde{s}(x) = \\eta(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7a\/7aa\/7aa881036e413d71d0293e9e4885888e.svg\" width=\"88\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7a\/7aa\/7aa881036e413d71d0293e9e4885888e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7a\/7aa\/7aa881036e413d71d0293e9e4885888e.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0447\u0442\u043e<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\sup_{x\\in\\mathbb{R}}|\\tilde{s}(x) - s(x)| \\leq \\frac{\\delta}{2}\" alt=\"\\sup_{x\\in\\mathbb{R}}|\\tilde{s}(x) - s(x)| \\leq \\frac{\\delta}{2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/ca\/ca7\/ca7c7a4f9df52b770e094d60da76473b.svg\" width=\"168\" height=\"40\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/ca\/ca7\/ca7c7a4f9df52b770e094d60da76473b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/ca\/ca7\/ca7c7a4f9df52b770e094d60da76473b.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043a\u043e\u043c\u043f\u043e\u0437\u0438\u0446\u0438\u044e <img decoding=\"async\" class=\"formula inline\" source=\"g = \\tilde{s} \\circ \\tilde{l}\" alt=\"g = \\tilde{s} \\circ \\tilde{l}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/cc5\/cc5be8a63a3c180e1913d0e6b2590879.svg\" width=\"56\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/cc5\/cc5be8a63a3c180e1913d0e6b2590879.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/cc5\/cc5be8a63a3c180e1913d0e6b2590879.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0438\u0437 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0439  <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{s}\" alt=\"\\tilde{s}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/97\/973\/9731d0091ba3d996fd0899c50ff5bcc0.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/97\/973\/9731d0091ba3d996fd0899c50ff5bcc0.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/97\/973\/9731d0091ba3d996fd0899c50ff5bcc0.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{l}\" alt=\"\\tilde{l}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cb\/cbf\/cbf3be992968f28f2765e74b216b24a4.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cb\/cbf\/cbf3be992968f28f2765e74b216b24a4.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cb\/cbf\/cbf3be992968f28f2765e74b216b24a4.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438\u043c\u0435\u0435\u0442 \u0432\u0438\u0434:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"g(x) = \\eta\\left(\\sum_{i=1}^d\\phi_i(x_i)\\right)\" alt=\"g(x) = \\eta\\left(\\sum_{i=1}^d\\phi_i(x_i)\\right)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2f\/2f6\/2f6437a7e41da0c0dbd3a8c598bc3bd0.svg\" width=\"168\" height=\"48\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2f\/2f6\/2f6437a7e41da0c0dbd3a8c598bc3bd0.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2f\/2f6\/2f6437a7e41da0c0dbd3a8c598bc3bd0.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0422.\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0441\u043e\u0431\u043e\u0439 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u0439 KAN \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"d\" alt=\"d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u041f\u043e\u043a\u0430\u0436\u0435\u043c, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\sup_{\\mathbf{x}\\in\\mathbb{R}^d}|g(\\mathbf{x}) - f(\\|\\mathbf{x}\\|)| \\leq \\delta\" alt=\"\\sup_{\\mathbf{x}\\in\\mathbb{R}^d}|g(\\mathbf{x}) - f(\\|\\mathbf{x}\\|)| \\leq \\delta\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f8\/f87\/f87fb3956ca547f7d8e7c30256338667.svg\" width=\"184\" height=\"32\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f8\/f87\/f87fb3956ca547f7d8e7c30256338667.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f8\/f87\/f87fb3956ca547f7d8e7c30256338667.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0414\u043b\u044f \u043b\u044e\u0431\u043e\u0433\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbf{x}\" alt=\"\\mathbf{x}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/70\/70e\/70e59a996bd69a0c21878b4093375e92.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/70\/70e\/70e59a996bd69a0c21878b4093375e92.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/70\/70e\/70e59a996bd69a0c21878b4093375e92.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438\u0437 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbb{R}^d\" alt=\"\\mathbb{R}^d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/19\/19a\/19ad202815dcdc697be0ca2f8af02ed7.svg\" width=\"16\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/19\/19a\/19ad202815dcdc697be0ca2f8af02ed7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/19\/19a\/19ad202815dcdc697be0ca2f8af02ed7.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043c\u044b \u0438\u043c\u0435\u0435\u043c:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"|g(\\mathbf{x}) - f(\\|\\mathbf{x}\\|)| \\leq |\\tilde{s}(\\tilde{l}(\\mathbf{x})) - s(\\tilde{l}(\\mathbf{x}))| + |s(\\tilde{l}(\\mathbf{x})) - s(l(\\mathbf{x}))| + |s(l(\\mathbf{x})) - f(\\|\\mathbf{x}\\|)| =\" alt=\"|g(\\mathbf{x}) - f(\\|\\mathbf{x}\\|)| \\leq |\\tilde{s}(\\tilde{l}(\\mathbf{x})) - s(\\tilde{l}(\\mathbf{x}))| + |s(\\tilde{l}(\\mathbf{x})) - s(l(\\mathbf{x}))| + |s(l(\\mathbf{x})) - f(\\|\\mathbf{x}\\|)| =\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/879\/87945a8129fbeef3e7a5c8c42b233c85.svg\" width=\"616\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/879\/87945a8129fbeef3e7a5c8c42b233c85.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/879\/87945a8129fbeef3e7a5c8c42b233c85.svg 781w\" loading=\"lazy\" decode=\"async\"\/><img decoding=\"async\" class=\"formula\" source=\"= \\\\|\\tilde{s}(\\tilde{l}(\\mathbf{x})) - s(\\tilde{l}(\\mathbf{x}))| + |s(\\tilde{l}(\\mathbf{x})) - s(l(\\mathbf{x}))| + |f(\\sqrt{l(\\mathbf{x})}) - f(\\|\\mathbf{x}\\|)|\" alt=\"= \\\\|\\tilde{s}(\\tilde{l}(\\mathbf{x})) - s(\\tilde{l}(\\mathbf{x}))| + |s(\\tilde{l}(\\mathbf{x})) - s(l(\\mathbf{x}))| + |f(\\sqrt{l(\\mathbf{x})}) - f(\\|\\mathbf{x}\\|)|\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a5\/a56\/a56e64be0817780ae95f73c8a2c79771.svg\" width=\"472\" height=\"56\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a5\/a56\/a56e64be0817780ae95f73c8a2c79771.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a5\/a56\/a56e64be0817780ae95f73c8a2c79771.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043a\u0430\u0436\u0434\u043e\u0435 \u0438\u0437 \u0442\u0440\u0451\u0445 \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439:<\/p>\n<ul>\n<li>\n<p>\u041f\u0435\u0440\u0432\u043e\u0435 \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u043f\u0440\u0435\u0432\u043e\u0441\u0445\u043e\u0434\u0438\u0442 <img decoding=\"async\" class=\"formula inline\" source=\"\\delta\/2\" alt=\"\\delta\/2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d5\/d51\/d5138f0423fa5ccb86ded55474d20ce7.svg\" width=\"24\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d5\/d51\/d5138f0423fa5ccb86ded55474d20ce7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d5\/d51\/d5138f0423fa5ccb86ded55474d20ce7.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441\u043e\u0433\u043b\u0430\u0441\u043d\u043e \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044e <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{s}\" alt=\"\\tilde{s}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/97\/973\/9731d0091ba3d996fd0899c50ff5bcc0.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/97\/973\/9731d0091ba3d996fd0899c50ff5bcc0.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/97\/973\/9731d0091ba3d996fd0899c50ff5bcc0.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<\/li>\n<li>\n<p>\u0412\u0442\u043e\u0440\u043e\u0435 \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435, \u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"s\" alt=\"s\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/03\/03c\/03c7c0ace395d80182db07ae2c30f034.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/03\/03c\/03c7c0ace395d80182db07ae2c30f034.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/03\/03c\/03c7c0ace395d80182db07ae2c30f034.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\frac{L}{2\\sqrt{r}}\" alt=\"\\frac{L}{2\\sqrt{r}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/411\/4115a7960f648766747dc20840a47a85.svg\" width=\"40\" height=\"40\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/411\/4115a7960f648766747dc20840a47a85.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/411\/4115a7960f648766747dc20840a47a85.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u043e\u0439, \u043d\u0435 \u043f\u0440\u0435\u0432\u043e\u0441\u0445\u043e\u0434\u0438\u0442 <img decoding=\"async\" class=\"formula inline\" source=\"\\frac{L}{2\\sqrt{r}}|\\tilde{\\ell}(\\mathbf{x}) - \\ell(\\mathbf{x})|\" alt=\"\\frac{L}{2\\sqrt{r}}|\\tilde{\\ell}(\\mathbf{x}) - \\ell(\\mathbf{x})|\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/ce\/ce4\/ce40a85d42c4f48831030ca20c31b356.svg\" width=\"136\" height=\"40\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/ce\/ce4\/ce40a85d42c4f48831030ca20c31b356.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/ce\/ce4\/ce40a85d42c4f48831030ca20c31b356.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0447\u0442\u043e \u043f\u043e \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044e <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{l}\" alt=\"\\tilde{l}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cb\/cbf\/cbf3be992968f28f2765e74b216b24a4.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cb\/cbf\/cbf3be992968f28f2765e74b216b24a4.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cb\/cbf\/cbf3be992968f28f2765e74b216b24a4.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u043d\u0435 \u0431\u043e\u043b\u0435\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\delta\/2\" alt=\"\\delta\/2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d5\/d51\/d5138f0423fa5ccb86ded55474d20ce7.svg\" width=\"24\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d5\/d51\/d5138f0423fa5ccb86ded55474d20ce7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d5\/d51\/d5138f0423fa5ccb86ded55474d20ce7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<\/li>\n<li>\n<p>\u0427\u0442\u043e \u043a\u0430\u0441\u0430\u0435\u0442\u0441\u044f \u0442\u0440\u0435\u0442\u044c\u0435\u0433\u043e \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f: \u0435\u0441\u043b\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\|\\mathbf{x}\\|^{2} \\leq R^{2}\" alt=\"\\|\\mathbf{x}\\|^{2} \\leq R^{2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/68\/682\/68246c63eba459aa99d694496f6dbd98.svg\" width=\"80\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/68\/682\/68246c63eba459aa99d694496f6dbd98.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/68\/682\/68246c63eba459aa99d694496f6dbd98.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\ell(\\mathbf{x}) = \\|\\mathbf{x}\\|^{2}\" alt=\"\\ell(\\mathbf{x}) = \\|\\mathbf{x}\\|^{2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9a\/9af\/9af96ca58041d632daefdf8625c12af7.svg\" width=\"88\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9a\/9af\/9af96ca58041d632daefdf8625c12af7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9a\/9af\/9af96ca58041d632daefdf8625c12af7.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0440\u0430\u0432\u043d\u043e \u043d\u0443\u043b\u044e. \u0415\u0441\u043b\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\|\\mathbf{x}\\|^{2} &gt; R^{2}\" alt=\"\\|\\mathbf{x}\\|^{2} &gt; R^{2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/917\/9170062a1007e176b0b475dc8a34332b.svg\" width=\"80\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/917\/9170062a1007e176b0b475dc8a34332b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/917\/9170062a1007e176b0b475dc8a34332b.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u043e \u043b\u0435\u0433\u043a\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\ell(\\mathbf{x}) \\geq R^{2}\" alt=\"\\ell(\\mathbf{x}) \\geq R^{2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/89\/894\/89492b27b7e161c27c056f94e18c0558.svg\" width=\"72\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/89\/894\/89492b27b7e161c27c056f94e18c0558.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/89\/894\/89492b27b7e161c27c056f94e18c0558.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0438 \u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"f\" alt=\"f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8f\/8fa\/8fa14cdd754f91cc6554c9e71929cce7.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u0430 \u0438 \u0438\u043c\u0435\u0435\u0442 \u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c \u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"[r, R]\" alt=\"[r, R]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a7\/a7e\/a7e18e4fe6ba263925d59f446a438e7d.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a7\/a7e\/a7e18e4fe6ba263925d59f446a438e7d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a7\/a7e\/a7e18e4fe6ba263925d59f446a438e7d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0441\u043b\u0435\u0434\u0443\u0435\u0442, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"f(\\sqrt{\\ell(\\mathbf{x})}) = f(\\|\\mathbf{x}\\|) = 0\" alt=\"f(\\sqrt{\\ell(\\mathbf{x})}) = f(\\|\\mathbf{x}\\|) = 0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7c\/7c3\/7c3df7e1b7597039120a6f16222ba8e1.svg\" width=\"184\" height=\"32\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7c\/7c3\/7c3df7e1b7597039120a6f16222ba8e1.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7c\/7c3\/7c3df7e1b7597039120a6f16222ba8e1.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0438 \u0441\u043d\u043e\u0432\u0430 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u043d\u043e\u043b\u044c.<\/p>\n<\/li>\n<\/ul>\n<p>\u0421\u0443\u043c\u043c\u0438\u0440\u0443\u044f \u0432\u044b\u0448\u0435\u0441\u043a\u0430\u0437\u0430\u043d\u043d\u043e\u0435, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c <img decoding=\"async\" class=\"formula inline\" source=\"|g(\\mathbf{x}) - f(\\|\\mathbf{x}\\|)| \\leq \\frac{\\delta}{2} + \\frac{\\delta}{2} + 0 = \\delta\" alt=\"|g(\\mathbf{x}) - f(\\|\\mathbf{x}\\|)| \\leq \\frac{\\delta}{2} + \\frac{\\delta}{2} + 0 = \\delta\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ec\/ecf\/ecf5ca4a1c66a6ed57033ac4fd164104.svg\" width=\"256\" height=\"32\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ec\/ecf\/ecf5ca4a1c66a6ed57033ac4fd164104.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ec\/ecf\/ecf5ca4a1c66a6ed57033ac4fd164104.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0447\u0442\u043e \u0438 \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u043e\u0441\u044c. \u041b\u0435\u043c\u043c\u0430 2 \u0434\u043e\u043a\u0430\u0437\u0430\u043d\u0430.<\/p>\n<p>\u041d\u0430\u043a\u043e\u043d\u0435\u0446, \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0438\u043c \u041b\u0435\u043c\u043c\u0443 1 \u0438 \u041b\u0435\u043c\u043c\u0443 2 \u0434\u043b\u044f \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u0430 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{g}\" alt=\"\\tilde{g}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u043c KAN:<\/p>\n<p><em><u>\u0422\u0435\u043e\u0440\u0435\u043c\u0430<\/u><\/em>: \u0421\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u0430\u044f \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"C \\gt 0\" alt=\"C \\gt 0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a0\/a00\/a00140fed6266288c1f048037cc52993.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a0\/a00\/a00140fed6266288c1f048037cc52993.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a0\/a00\/a00140fed6266288c1f048037cc52993.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0442\u0430\u043a\u0430\u044f, \u0447\u0442\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0435. \u041f\u0443\u0441\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"\\delta \\in (0, 1)\" alt=\"\\delta \\in (0, 1)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/88\/888\/88832927953209c68fee414c1540665b.svg\" width=\"64\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/88\/888\/88832927953209c68fee414c1540665b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/88\/888\/88832927953209c68fee414c1540665b.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"d \\geq C\" alt=\"d \\geq C\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/03\/03a\/03a5d50ff2ed3cc37845c5f4fc4dd323.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/03\/03a\/03a5d50ff2ed3cc37845c5f4fc4dd323.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/03\/03a\/03a5d50ff2ed3cc37845c5f4fc4dd323.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"g_i\" alt=\"g_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/91d\/91d8947f9447751708c1f4107beb7ab3.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/91d\/91d8947f9447751708c1f4107beb7ab3.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/91d\/91d8947f9447751708c1f4107beb7ab3.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u044b \u043a\u0430\u043a \u0443\u043a\u0430\u0437\u0430\u043d\u043e \u0432\u044b\u0448\u0435. \u0414\u043b\u044f \u043b\u044e\u0431\u043e\u0433\u043e \u0432\u044b\u0431\u043e\u0440\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\epsilon_i \\in \\{-1, +1\\}\" alt=\"\\epsilon_i \\in \\{-1, +1\\}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/40\/40f\/40fa07e8d8c9f96c954723f6f46f1ae2.svg\" width=\"104\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/40\/40f\/40fa07e8d8c9f96c954723f6f46f1ae2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/40\/40f\/40fa07e8d8c9f96c954723f6f46f1ae2.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"i = 1, \\ldots, N\" alt=\"i = 1, \\ldots, N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/49b\/49bfb2130de5717f9054b41bfc628ec6.svg\" width=\"88\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/49b\/49bfb2130de5717f9054b41bfc628ec6.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/49\/49b\/49bfb2130de5717f9054b41bfc628ec6.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"g\" alt=\"g\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043c\u0430\u044f \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u043c \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c KAN \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"d\" alt=\"d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0441\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438 \u0432 <img decoding=\"async\" class=\"formula inline\" source=\"[-2, +2]\" alt=\"[-2, +2]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/86\/864\/864d34881024b785c36d393693986ef1.svg\" width=\"64\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/86\/864\/864d34881024b785c36d393693986ef1.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/86\/864\/864d34881024b785c36d393693986ef1.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u0430\u043a\u0430\u044f \u0447\u0442\u043e<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\| g(x) - \\sum_{i=1}^N \\epsilon_i g_i(\\|x\\|)\\|_{L_2(\\mu)} \\leq \\frac{\\sqrt{3}}{\\alpha d^{1\/4}} + \\delta.\" alt=\"\\| g(x) - \\sum_{i=1}^N \\epsilon_i g_i(\\|x\\|)\\|_{L_2(\\mu)} \\leq \\frac{\\sqrt{3}}{\\alpha d^{1\/4}} + \\delta.\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/24\/240\/2403c7102e4b84c9814134ba0e695da2.svg\" width=\"312\" height=\"48\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/24\/240\/2403c7102e4b84c9814134ba0e695da2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/24\/240\/2403c7102e4b84c9814134ba0e695da2.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p><em><u>\u0414\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u043e<\/u><\/em>: \u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043c \u041b\u0435\u043c\u043c\u0443 2, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"N\" alt=\"N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8d\/8d9\/8d9c307cb7f3c4a32822a51922d1ceaa.svg\" width=\"16\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8d\/8d9\/8d9c307cb7f3c4a32822a51922d1ceaa.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8d\/8d9\/8d9c307cb7f3c4a32822a51922d1ceaa.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u044e <img decoding=\"async\" class=\"formula inline\" source=\"h\" alt=\"h\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/251\/2510c39011c5be704182423e3a695e91.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/251\/2510c39011c5be704182423e3a695e91.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/251\/2510c39011c5be704182423e3a695e91.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438 \u0432 <img decoding=\"async\" class=\"formula inline\" source=\"[-1, +1]\" alt=\"[-1, +1]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3b\/3b3\/3b3ccd75da47d98dbdf8c99dcafb0cfa.svg\" width=\"64\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3b\/3b3\/3b3ccd75da47d98dbdf8c99dcafb0cfa.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3b\/3b3\/3b3ccd75da47d98dbdf8c99dcafb0cfa.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u044e\u0449\u0443\u044e \u0443\u0441\u043b\u043e\u0432\u0438\u044e<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\| h{(\\mathbf{x})} - \\sum_{i=1}^{N} \\epsilon_{i} g_i{(\\mathbf{x})} \\|_{L_2{(\\mu)}} = \\sqrt{\\int_{\\mathbb{R}^d}{\\left( h{(\\mathbf{x})} -  \\sum{\\epsilon_i g_i{(x)}} \\right)^2 \\varphi^2(x) dx}} \\leq \\frac{\\sqrt{3}}{\\alpha d^{1\/4}}.\" alt=\"\\| h{(\\mathbf{x})} - \\sum_{i=1}^{N} \\epsilon_{i} g_i{(\\mathbf{x})} \\|_{L_2{(\\mu)}} = \\sqrt{\\int_{\\mathbb{R}^d}{\\left( h{(\\mathbf{x})} -  \\sum{\\epsilon_i g_i{(x)}} \\right)^2 \\varphi^2(x) dx}} \\leq \\frac{\\sqrt{3}}{\\alpha d^{1\/4}}.\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/95\/952\/95289a956ef9bc915aa4898abb0d05e9.svg\" width=\"568\" height=\"56\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/95\/952\/95289a956ef9bc915aa4898abb0d05e9.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/95\/952\/95289a956ef9bc915aa4898abb0d05e9.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0417\u0430\u0442\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u041b\u0435\u043c\u043c\u0443 2 \u0441 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"R = 2\\alpha\\sqrt{d}\" alt=\"R = 2\\alpha\\sqrt{d}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4b\/4b6\/4b6b4eb89ad568467e6d8c97ce9f1197.svg\" width=\"80\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4b\/4b6\/4b6b4eb89ad568467e6d8c97ce9f1197.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4b\/4b6\/4b6b4eb89ad568467e6d8c97ce9f1197.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"r = \\alpha\\sqrt{d}\" alt=\"r = \\alpha\\sqrt{d}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/eb\/eb8\/eb8a13884611a233508c2af02121e834.svg\" width=\"64\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/eb\/eb8\/eb8a13884611a233508c2af02121e834.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/eb\/eb8\/eb8a13884611a233508c2af02121e834.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"L = N\" alt=\"L = N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b8\/b8c\/b8c114e4706e5ab677be96f2010e1bcf.svg\" width=\"48\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b8\/b8c\/b8c114e4706e5ab677be96f2010e1bcf.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b8\/b8c\/b8c114e4706e5ab677be96f2010e1bcf.svg 781w\" loading=\"lazy\" decode=\"async\"\/> ( \u0442\u043e\u0433\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"K \\geq \\frac{8\\alpha^{3\/2}d^{3\/4}N}{\\delta}\" alt=\"K \\geq \\frac{8\\alpha^{3\/2}d^{3\/4}N}{\\delta}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ee\/ee5\/ee5b13a5f7e4ebbc07be05e004911894.svg\" width=\"128\" height=\"40\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ee\/ee5\/ee5b13a5f7e4ebbc07be05e004911894.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ee\/ee5\/ee5b13a5f7e4ebbc07be05e004911894.svg 781w\" loading=\"lazy\" decode=\"async\"\/>) \u0434\u043b\u044f \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"g\" alt=\"g\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043c\u043e\u0439 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u043c \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c KAN \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"d\" alt=\"d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/82\/827\/8277e0910d750195b448797616e091ad.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u0430\u043a\u043e\u0439 \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\sup_{x \\in \\mathbb{R}^d} |g(x) - h(x)| \\leq \\delta\" alt=\"\\sup_{x \\in \\mathbb{R}^d} |g(x) - h(x)| \\leq \\delta\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/73\/73d\/73d93f555791c2ea5a4af1444ea5de2c.svg\" width=\"160\" height=\"32\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/73\/73d\/73d93f555791c2ea5a4af1444ea5de2c.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/73\/73d\/73d93f555791c2ea5a4af1444ea5de2c.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u042d\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\|g - h\\|_{L_2(\\mu)} \\leq \\delta\" alt=\"\\|g - h\\|_{L_2(\\mu)} \\leq \\delta\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b27\/b2771f434d9162feb78b06ebe796cba6.svg\" width=\"120\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b27\/b2771f434d9162feb78b06ebe796cba6.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b27\/b2771f434d9162feb78b06ebe796cba6.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0430 \u0442\u0430\u043a\u0436\u0435 \u0447\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"g\" alt=\"g\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b2\/b2f\/b2f5ff47436671b6e533d8dc3614845d.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043b\u0435\u0436\u0430\u0442 \u0432 <img decoding=\"async\" class=\"formula inline\" source=\"[-1 - \\delta, 1 + \\delta] \\subseteq [-2, +2]\" alt=\"[-1 - \\delta, 1 + \\delta] \\subseteq [-2, +2]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/79\/799\/7991c211af1177c49921a7391bc862c8.svg\" width=\"192\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/79\/799\/7991c211af1177c49921a7391bc862c8.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/79\/799\/7991c211af1177c49921a7391bc862c8.svg 781w\" loading=\"lazy\" decode=\"async\"\/> (\u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"\\delta &lt; 1\" alt=\"\\delta &lt; 1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/09\/094\/094f690fc31adc857e41175cbe31e63a.svg\" width=\"40\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/09\/094\/094f690fc31adc857e41175cbe31e63a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/09\/094\/094f690fc31adc857e41175cbe31e63a.svg 781w\" loading=\"lazy\" decode=\"async\"\/>). \u041e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u044f \u044d\u0442\u043e \u0441 \u0440\u0430\u0432\u0435\u043d\u0441\u0442\u0432\u043e\u043c \u0432\u044b\u0448\u0435 \u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u043d\u0435\u0440\u0430\u0432\u0435\u043d\u0441\u0442\u0432\u043e \u0442\u0440\u0435\u0443\u0433\u043e\u043b\u044c\u043d\u0438\u043a\u0430, \u0437\u0430\u0432\u0435\u0440\u0448\u0430\u0435\u043c \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u043e.<\/p>\n<h2>\u041f\u043e\u0434\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0438\u0442\u043e\u0433\u043e\u0432<\/h2>\n<p>\u041f\u0440\u043e\u0434\u0435\u043b\u0430\u0432 \u0442\u0430\u043a\u0443\u044e \u0431\u043e\u043b\u044c\u0448\u0443\u044e \u0440\u0430\u0431\u043e\u0442\u0443, \u043c\u044b \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438, \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{g}\" alt=\"\\tilde{g}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg\" width=\"12\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b7\/b71\/b71eb7b75a86d7a398cbea6e17345abe.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0442\u0430\u043a\u0430\u044f, \u0447\u0442\u043e \u043e\u043d\u0430 \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0430 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 ReLU MLP \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"poly(d)\" alt=\"poly(d)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/019\/019a5888ee167605dd09da5640dc79b2.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/019\/019a5888ee167605dd09da5640dc79b2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/019\/019a5888ee167605dd09da5640dc79b2.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043d\u043e \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0430 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u043c \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c KAN \u0448\u0438\u0440\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"poly(d)\" alt=\"poly(d)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/019\/019a5888ee167605dd09da5640dc79b2.svg\" width=\"48\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/019\/019a5888ee167605dd09da5640dc79b2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/019\/019a5888ee167605dd09da5640dc79b2.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0441 \u0447\u0438\u0441\u043b\u043e\u043c \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"K \\geq \\frac{8\\alpha^{3\/2}d^{3\/4}N}{\\delta}\" alt=\"K \\geq \\frac{8\\alpha^{3\/2}d^{3\/4}N}{\\delta}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ee\/ee5\/ee5b13a5f7e4ebbc07be05e004911894.svg\" width=\"128\" height=\"40\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ee\/ee5\/ee5b13a5f7e4ebbc07be05e004911894.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ee\/ee5\/ee5b13a5f7e4ebbc07be05e004911894.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0418\u043d\u0430\u0447\u0435 \u0433\u043e\u0432\u043e\u0440\u044f, \u0434\u043e\u043a\u0430\u0437\u0430\u043d\u043e \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0435 \u0432\u043b\u043e\u0436\u0435\u043d\u0438\u044f<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\mathbf{KAN}{\\left(2, poly(d), \\left\\lceil \\frac{8\\alpha^{3\/2}d^{3\/4}N}{\\delta}\\right\\rceil + 1\\right)} \\not\\subseteq \\mathbf{ReLU}{(2, poly(d))}\" alt=\"\\mathbf{KAN}{\\left(2, poly(d), \\left\\lceil \\frac{8\\alpha^{3\/2}d^{3\/4}N}{\\delta}\\right\\rceil + 1\\right)} \\not\\subseteq \\mathbf{ReLU}{(2, poly(d))}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/77\/774\/7749224b9a0f237464ff8ae35c160f82.svg\" width=\"464\" height=\"40\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/77\/774\/7749224b9a0f237464ff8ae35c160f82.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/77\/774\/7749224b9a0f237464ff8ae35c160f82.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0435 \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u044b \u0441\u0442\u0430\u0440\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 MLP, \u043e\u0434\u043d\u0430\u043a\u043e \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u0440\u0435\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d\u044b \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e KAN (\u0434\u0430\u0436\u0435 \u0432 \u0441\u043b\u0443\u0447\u0430\u0435 \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0443 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0433\u043e). \u041a\u043e\u043d\u0435\u0447\u043d\u043e \u0436\u0435, \u044d\u0442\u043e\u0442 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0432 \u0431\u043e\u043b\u044c\u0448\u0435\u0439 \u0441\u0442\u0435\u043f\u0435\u043d\u0438 \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439, \u043d\u043e \u043e\u043d \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u0432 \u043d\u043e\u0432\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0437\u0430\u043b\u043e\u0436\u0435\u043d\u0430 \u043a\u0443\u0434\u0430 \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0432\u044b\u0440\u0430\u0437\u0438\u043c\u043e\u0441\u0442\u043d\u0430\u044f \u043c\u043e\u0449\u043d\u043e\u0441\u0442\u044c, \u0447\u0435\u043c \u0432 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u043e\u0439.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/929972\/\"> https:\/\/habr.com\/ru\/articles\/929972\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<h2>\u0412\u0432\u0435\u0434\u0435\u043d\u0438\u0435<\/h2>\n<p>\u041f\u0440\u043e\u0448\u043b\u044b\u043c \u043b\u0435\u0442\u043e\u043c \u0432 \u0441\u0432\u0435\u0442 \u0432\u044b\u0448\u043b\u0430 \u043d\u043e\u0432\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439 \u043f\u043e\u0434 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435\u043c Kolmogorov-Arnold Networks (KAN). \u041e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0441\u0442\u0430\u0442\u044c\u044f \u0435\u0441\u0442\u044c \u0432 \u043e\u0442\u043a\u0440\u044b\u0442\u043e\u043c \u0434\u043e\u0441\u0442\u0443\u043f\u0435 \u043d\u0430 \u0430\u0440\u0445\u0438\u0432\u0435 \u043f\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0439 <a href=\"https:\/\/arxiv.org\/abs\/2404.19756\" rel=\"noopener noreferrer nofollow\">\u0441\u0441\u044b\u043b\u043a\u0435<\/a>. \u041d\u0430 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u044b\u0445\u043e\u0434\u0430 \u0441\u0442\u0430\u0442\u044c\u0438 \u044d\u0442\u0430 \u043d\u043e\u0432\u043e\u0441\u0442\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u043b\u0430 \u0444\u0443\u0440\u043e\u0440 \u0432 \u043c\u0438\u0440\u0435 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435, \u0442\u0430\u043a \u043a\u0430\u043a KAN \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u0441\u043b\u043e\u0436\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u041d\u0430 \u0444\u043e\u0442\u043e \u043d\u0438\u0436\u0435 \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u043e\u0448\u0438\u0431\u043a\u0430 \u043d\u043e\u0432\u044b\u0445 \u0441\u0435\u0442\u0435\u0439 \u043f\u0430\u0434\u0430\u0435\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u0447\u0438\u0441\u043b\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432. <\/p>\n<figure class=\"\">\n<div><figcaption>\u0433\u0440\u0430\u0444\u0438\u043a\u0438 RMSE \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043a \u0447\u0438\u0441\u043b\u0443 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0443 KAN \u0438 MLP \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u0445<\/figcaption><\/div>\n<\/figure>\n<p> \u041e\u0434\u043d\u0430\u043a\u043e, \u0437\u0430 \u0432\u0441\u0435 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043f\u043b\u0430\u0442\u0438\u0442\u044c, \u0438 \u0446\u0435\u043d\u0430 \u0442\u0430\u043a\u0438\u0445 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438 &#8212; \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435: KAN \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 10 \u0440\u0430\u0437 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435, \u0447\u0435\u043c \u0441\u0442\u0430\u0440\u044b\u0439 \u0434\u043e\u0431\u0440\u044b\u0439 MLP. \u0418\u0437 \u0432\u0441\u0435\u0433\u043e \u044d\u0442\u043e\u0433\u043e \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u0435\u0442 \u0432\u043e\u043f\u0440\u043e\u0441: \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u0441\u0435 \u0436\u0435 \u0443\u043c\u0435\u0441\u0442\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u043d\u043e\u0432\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0432\u043c\u0435\u0441\u0442\u043e \u043f\u0440\u0438\u0432\u044b\u0447\u043d\u044b\u0445 \u0432\u0441\u0435\u043c MLP? <\/p>\n<p>\u041a\u043e\u043d\u0435\u0447\u043d\u043e \u0436\u0435, \u043e\u0442\u0432\u0435\u0442 \u043d\u0430 \u044d\u0442\u043e\u0442 \u0432\u043e\u043f\u0440\u043e\u0441 \u043d\u0435 \u0441\u0442\u043e\u043b\u044c \u043e\u0434\u043d\u043e\u0437\u043d\u0430\u0447\u043d\u044b\u0439: \u043a\u043e\u043c\u0443-\u0442\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u0430\u0436\u043d\u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u043c\u0443-\u0442\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439. \u0412 \u043f\u043e\u0438\u0441\u043a\u0430\u0445 \u043e\u0442\u0432\u0435\u0442\u0430 \u044f \u043f\u0440\u0438\u0448\u0435\u043b \u043a \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043b\u0435\u0433\u043b\u0430 \u0432 \u043e\u0441\u043d\u043e\u0432\u0443 \u043c\u043e\u0435\u0439 \u043a\u0443\u0440\u0441\u043e\u0432\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b (\u043f\u043e\u043b\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u043f\u043e <a href=\"https:\/\/github.com\/Artur4ik2304\/On-the-expressiveness-of-piecewise-linear-KAN-and-ReLU-MLP\/blob\/main\/text.pdf\" rel=\"noopener noreferrer nofollow\">\u0441\u0441\u044b\u043b\u043a\u0435<\/a>) \u0438 \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u044f \u0441\u043e\u0431\u0438\u0440\u0430\u044e\u0441\u044c \u0437\u0434\u0435\u0441\u044c \u0438\u0437\u043b\u043e\u0436\u0438\u0442\u044c.<\/p>\n<h2>\u0420\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0438 \u043f\u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0437\u0430\u0434\u0430\u0447\u0438<\/h2>\n<p>\u041e\u0434\u0438\u043d \u0438\u0437 \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u0432 \u0441\u0440\u0430\u0432\u043d\u0438\u0442\u044c \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b &#8212; \u0432\u044b\u044f\u0432\u0438\u0442\u044c \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u043e\u0435 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b. \u0414\u043b\u044f MLP \u0441\u0435\u0442\u0435\u0439 \u043e\u043d\u043e \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c: \u043f\u0443\u0441\u0442\u044c \u0435\u0441\u0442\u044c MLP \u0441\u0435\u0442\u044c  \u0433\u043b\u0443\u0431\u0438\u043d\u044b  \u0438 MLP \u0441\u0435\u0442\u044c  \u0433\u043b\u0443\u0431\u0438\u043d\u044b , \u043f\u0440\u0438 \u044d\u0442\u043e\u043c , \u0430 \u0448\u0438\u0440\u0438\u043d\u0430 \u043e\u0431\u043e\u0438\u0445 \u0441\u0435\u0442\u0435\u0439 \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u0438\u0430\u043b\u044c\u043d\u0430 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438  \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430 (\u0434\u0430\u043b\u0435\u0435 \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0430\u0435\u043c \u0447\u0435\u0440\u0435\u0437 ) \u0435\u0441\u043b\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u044f  \u0442\u0430\u043a\u0430\u044f, \u0447\u0442\u043e \u043e\u043d\u0430 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f (\u0432 \u043a\u0430\u043a\u043e\u043c \u0438\u043c\u0435\u043d\u043d\u043e \u0441\u043c\u044b\u0441\u043b\u0435 \u0431\u0443\u0434\u0435\u0442 \u043f\u043e\u043d\u044f\u0442\u043d\u043e \u043f\u043e\u0437\u0434\u043d\u0435\u0435) \u0441\u0435\u0442\u044c\u044e , \u043d\u043e \u043d\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f , \u0442\u043e \u0433\u043e\u0432\u043e\u0440\u044f\u0442, \u0447\u0442\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u043c\u0435\u0436\u0434\u0443  \u0438 .<\/p>\n<p>\u041c\u043e\u044f \u0438\u0434\u0435\u044f \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u043b\u0430\u0441\u044c \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043f\u044b\u0442\u0430\u0442\u044c\u0441\u044f \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c \u043f\u043e\u0434\u043e\u0431\u043d\u043e\u0435 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0440\u0430\u0437\u0434\u0435\u043b\u044f\u043b\u043e \u0431\u044b KAN \u0438 MLP. \u041a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e, \u0432\u043e\u043f\u0440\u043e\u0441 \u0441\u0442\u0430\u0432\u0438\u043b\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c: \u043f\u0443\u0441\u0442\u044c  &#8212; KAN \u0433\u043b\u0443\u0431\u0438\u043d\u044b , \u0448\u0438\u0440\u0438\u043d\u044b  \u0438  &#8212; MLP \u0441\u0435\u0442\u044c \u0442\u043e\u0439 \u0436\u0435 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0438 \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u0448\u0438\u0440\u0438\u043d\u044b. \u0421\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u043b\u0438 \u0442\u0430\u043a\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f , \u0447\u0442\u043e \u043e\u043d\u0430 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f , \u043d\u043e \u043d\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f ?<\/p>\n<p>\u0414\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u043e\u0442\u0432\u0435\u0442\u0438\u0442\u044c \u043d\u0430 \u044d\u0442\u043e\u0442 \u0432\u043e\u043f\u0440\u043e\u0441, \u043d\u0430\u043c \u043f\u0440\u0438\u0434\u0435\u0442\u0441\u044f \u0432\u043d\u0438\u043a\u043d\u0443\u0442\u044c \u0432 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e KAN, \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043e\u0434\u0438\u043d \u0438\u0437 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432 \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0434\u043b\u044f MLP \u0441\u0435\u0442\u0435\u0439 \u0433\u043b\u0443\u0431\u0438\u043d\u044b 2 \u0438 3 (\u0448\u0438\u0440\u0438\u043d\u044b ), \u0430 \u0442\u0430\u043a\u0436\u0435 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0438\u0442\u044c \u044d\u0442\u043e \u0432\u0441\u0435 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430 \u043f\u043e \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u044e \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0433\u043e (\u0441\u0442\u0430\u043d\u0435\u0442 \u043f\u043e\u043d\u044f\u0442\u043d\u043e \u0434\u0430\u043b\u0435\u0435) KAN \u0432 MLP \u0438 \u043e\u0431\u0440\u0430\u0442\u043d\u043e. \u0418\u0442\u0430\u043a, \u043d\u0430\u0447\u043d\u0435\u043c \u043f\u043e \u043f\u043e\u0440\u044f\u0434\u043a\u0443.<\/p>\n<h2>1. \u0423\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e KAN<\/h2>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u043c, \u0447\u0442\u043e \u0442\u0430\u043a\u043e\u0435 \u0441\u043b\u043e\u0439 KAN.<\/p>\n<p><em><u>\u041e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435<\/u><\/em>: \u0421\u043b\u043e\u0439 \u0441\u0435\u0442\u0438 \u041a\u0410N (KAN-\u0441\u043b\u043e\u0439) \u0441 \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c\u044e  \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c\u044e  \u0437\u0430\u0434\u0430\u0451\u0442\u0441\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u0435\u0439  \u0432\u0435\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u043e\u0434\u043d\u043e\u0439 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 , \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u044b \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438. \u041e\u043d \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u044e<\/p>\n<p>\u041d\u0430 \u0444\u043e\u0442\u043e \u043d\u0438\u0436\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d \u0432 \u0441\u0445\u0435\u043c\u0430\u0442\u0438\u0447\u043d\u043e\u043c \u0432\u0438\u0434\u0435 \u0441\u043b\u043e\u0439 KAN (\u0434\u043b\u044f \u0443\u0434\u043e\u0431\u0441\u0442\u0432\u0430 \u0441\u0432\u044f\u0437\u0438 \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u044b \u0442\u043e\u043b\u044c\u043a\u043e \u043c\u0435\u0436\u0434\u0443 \u0432\u0445\u043e\u0434\u043e\u043c \u0438 \u043f\u0435\u0440\u0432\u044b\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c, \u0442.\u0435 ). <\/p>\n<figure class=\"\">\n<div><figcaption>\u0421\u0445\u0435\u043c\u0430\u0442\u0438\u0447\u043d\u044b\u0439 \u0441\u043b\u043e\u0439 KAN<\/figcaption><\/div>\n<\/figure>\n<p> \u0422\u0435\u043f\u0435\u0440\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u043c KAN \u043a\u0430\u043a \u043a\u043e\u043c\u043f\u043e\u0437\u0438\u0446\u0438\u044e \u0441\u043b\u043e\u0435\u0432. <\/p>\n<p><em><u>\u041e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435<\/u><\/em>: \u0421\u0435\u0442\u044c \u041a\u043e\u043b\u043c\u043e\u0433\u043e\u0440\u043e\u0432\u0430-\u0410\u0440\u043d\u043e\u043b\u044c\u0434\u0430 (KAN) \u0433\u043b\u0443\u0431\u0438\u043d\u044b  \u2014 \u044d\u0442\u043e \u043a\u043e\u043c\u043f\u043e\u0437\u0438\u0446\u0438\u044f  KAN-\u0441\u043b\u043e\u0451\u0432 .<\/p>\n<p>\u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0432 \u0441\u043b\u0443\u0447\u0430\u0435, \u043a\u043e\u0433\u0434\u0430 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u0441\u043b\u043e\u0439 \u0438\u043c\u0435\u0435\u0442 \u0432\u044b\u0445\u043e\u0434\u043d\u0443\u044e \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c 1, \u0444\u0443\u043d\u043a\u0446\u0438\u044f, \u0437\u0430\u0434\u0430\u0432\u0430\u0435\u043c\u0430\u044f KAN, \u0431\u0443\u0434\u0435\u0442 \u0438\u043c\u0435\u0442\u044c \u0442\u0430\u043a\u043e\u0439 \u0441\u0442\u0440\u0430\u0448\u043d\u044b\u0439 \u0432\u0438\u0434:<\/p>\n<p>\u0433\u0434\u0435  \u2014 \u0432\u0445\u043e\u0434\u043d\u0430\u044f \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c -\u0433\u043e KAN-\u0441\u043b\u043e\u044f .<\/p>\n<p>\u0414\u043e\u0431\u0430\u0432\u043b\u044e \u0442\u0430\u043a\u0436\u0435 \u043f\u0430\u0440\u0443 \u0441\u043b\u043e\u0432 \u043f\u0440\u043e \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f KAN. \u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0432\u0441\u0435  \u0437\u0430\u0434\u0430\u044e\u0442\u0441\u044f \u0432 \u0432\u0438\u0434\u0435 \u0441\u043f\u043b\u0430\u0439\u043d\u043e\u0432 \u0438 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u0434\u043e\u0431\u0430\u0432\u043a\u0438 , \u0442.\u0435  \u0433\u0434\u0435<\/p>\n<p>\u0435\u0441\u0442\u044c \u043b\u0438\u043d\u0435\u0439\u043d\u0430\u044f \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u044f B-\u0441\u043f\u043b\u0430\u0439\u043d\u043e\u0432. \u0414\u043b\u044f \u0442\u0435\u0445, \u043a\u0442\u043e \u043d\u0435 \u0437\u043d\u0430\u043a\u043e\u043c \u0441\u043e \u0441\u043f\u043b\u0430\u0439\u043d\u0430\u043c\u0438, \u0434\u043e\u0431\u0430\u0432\u043b\u044e: \u0441\u043f\u043b\u0430\u0439\u043d &#8212; \u044d\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043f\u043e\u043b\u0438\u043d\u043e\u043c\u0438\u0430\u043b\u044c\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f (\u043c\u043d\u043e\u0433\u043e\u0447\u043b\u0435\u043d \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0435\u043f\u0435\u043d\u0438 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u043e\u0442\u0440\u0435\u0437\u043a\u0435 \u0440\u0430\u0437\u0431\u0438\u0435\u043d\u0438\u044f), \u0430 B-\u0441\u043f\u043b\u0430\u0439\u043d\u044b &#8212; \u0431\u0430\u0437\u0438\u0441 \u0432 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435 \u0442\u0430\u043a\u0438\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u041d\u0430 \u0444\u043e\u0442\u043e \u043d\u0438\u0436\u0435 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u0440 \u0438\u043d\u0442\u0435\u0440\u043f\u043e\u043b\u044f\u0446\u0438\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0441\u043f\u043b\u0430\u0439\u043d\u0430\u043c\u0438 \u0440\u0430\u0437\u043d\u043e\u0439 \u0441\u0442\u0435\u043f\u0435\u043d\u0438 \u0438 B-\u0441\u043f\u043b\u0430\u0439\u043d\u0430\u043c\u0438.  <\/p>\n<figure class=\"\">\n<div><figcaption>\u041f\u0440\u0438\u043c\u0435\u0440 \u0438\u043d\u0442\u0435\u0440\u043f\u043e\u043b\u044f\u0446\u0438\u0438 \u0441\u043f\u043b\u0430\u0439\u043d\u0430\u043c\u0438<\/figcaption><\/div>\n<\/figure>\n<p> \u0421\u0435\u0439\u0447\u0430\u0441 \u0438 \u0434\u0430\u043b\u0435\u0435 \u043d\u0435 \u0441\u0442\u043e\u043b\u044c \u0432\u0430\u0436\u043d\u043e, \u043a\u0430\u043a \u0441\u0442\u0440\u043e\u044f\u0442\u0441\u044f \u044d\u0442\u0438 \u0441\u0430\u043c\u044b\u0435 \u0441\u043f\u043b\u0430\u0439\u043d\u044b, \u043c\u044b \u0445\u043e\u0442\u0438\u043c \u043f\u043e\u043d\u044f\u0442\u044c \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u041f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 ,  \u0438  \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u0432 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0438 \u0441 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0435\u0439 <a href=\"https:\/\/paperswithcode.com\/method\/xavier-initialization\" rel=\"noopener noreferrer nofollow\">Xavier<\/a>. \u0414\u0430\u043b\u0435\u0435 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u043e\u0448\u0438\u0431\u043a\u0438: \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442\u0441\u044f \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c \u043f\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c \u043c\u043e\u0434\u0435\u043b\u0438, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u0445\u043e\u0434\u044f\u0442 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u044b  \u0432 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f\u0445 \u0441\u043f\u043b\u0430\u0439\u043d\u043e\u0432 (\u043e\u0431\u044b\u0447\u043d\u043e \u0431\u0435\u0440\u0443\u0442\u0441\u044f \u043a\u0443\u0431\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0441\u043f\u043b\u0430\u0439\u043d\u044b \u0438 \u0438\u0442\u043e\u0433\u043e\u0432\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0433\u043b\u0430\u0434\u043a\u0438\u043c\u0438), \u0430 \u0442\u0430\u043a\u0436\u0435 \u0432\u0435\u0441\u0430  \u0438 , \u0437\u0430\u0442\u0435\u043c \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u0448\u0430\u0433 \u0432 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0438 \u0430\u043d\u0442\u0438\u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430 \u0438 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0435\u0442\u0441\u044f \u0441\u043d\u043e\u0432\u0430. \u041f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u043e\u0435 \u0440\u0430\u0441\u0448\u0438\u0440\u0435\u043d\u0438\u0435 \u0441\u0435\u0442\u043a\u0438: \u043a\u0430\u0436\u0434\u044b\u0435 k \u0448\u0430\u0433\u043e\u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043c\u044b \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u043c \u0447\u0438\u0441\u043b\u043e \u0442\u043e\u0447\u0435\u043a \u0440\u0430\u0437\u0431\u0438\u0435\u043d\u0438\u044f \u043e\u0442\u0440\u0435\u0437\u043a\u043e\u0432 \u0434\u043b\u044f \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438 \u0441\u043f\u043b\u0430\u0439\u043d\u0430\u043c\u0438, \u0442\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u044f \u0447\u0438\u0441\u043b\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432  \u0441\u0435\u0442\u0438. <\/p>\n<h2>2. \u041e\u0442 KAN \u043a MLP \u0438 \u043e\u0431\u0440\u0430\u0442\u043d\u043e<\/h2>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0432\u0432\u0435\u0434\u0435\u043c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u044f\u0442\u0441\u044f \u0432 \u044d\u0442\u043e\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435:<\/p>\n<p><em><u>\u041e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435<\/u><\/em>: \u041a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 KAN &#8212; \u044d\u0442\u043e KAN, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432\u0441\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438  &#8212; \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0435.<\/p>\n<p><em><u>\u041e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435<\/u><\/em>: \u0427\u0435\u0440\u0435\u0437  \u0431\u0443\u0434\u0435\u043c \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0430\u0442\u044c \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u0437\u0430\u0434\u0430\u0432\u0430\u0435\u043c\u044b\u0445 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0433\u043e KAN \u0433\u043b\u0443\u0431\u0438\u043d\u044b  \u0438 \u0448\u0438\u0440\u0438\u043d\u044b . \u0417\u0434\u0435\u0441\u044c  &#8212; \u0447\u0438\u0441\u043b\u043e \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u043e\u0432 \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 .<\/p>\n<p><em><u>\u041e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435<\/u><\/em>: \u0427\u0435\u0440\u0435\u0437  \u0431\u0443\u0434\u0435\u043c \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0430\u0442\u044c \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u0437\u0430\u0434\u0430\u0432\u0430\u0435\u043c\u044b\u0445 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e ReLU MLP \u0441\u0435\u0442\u0438 \u0433\u043b\u0443\u0431\u0438\u043d\u044b  \u0438 \u0448\u0438\u0440\u0438\u043d\u044b .<\/p>\n<p>\u0412 \u043f\u043e\u043f\u044b\u0442\u043a\u0430\u0445 \u043d\u0430\u0439\u0442\u0438 \u043f\u043e\u0434\u0445\u043e\u0434 \u043a \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435 \u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0438 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u044f \u043d\u0430\u0442\u043a\u043d\u0443\u043b\u0441\u044f \u043d\u0430 \u0441\u0442\u0430\u0442\u044c\u044e <a href=\"https:\/\/arxiv.org\/abs\/2503.01702\" rel=\"noopener noreferrer nofollow\">Relating Piecewise Linear Kolmogorov Arnold Networks to ReLU Networks<\/a>, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u043e, \u0447\u0442\u043e \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 KAN \u0448\u0438\u0440\u0438\u043d\u044b  \u0438 \u0433\u043b\u0443\u0431\u0438\u043d\u044b  \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d ReLU MLP \u0441\u0435\u0442\u044c\u044e \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u043d\u0430 1 \u0431\u043e\u043b\u044c\u0448\u0435, \u0448\u0438\u0440\u0438\u043d\u044b . \u0411\u043e\u043b\u0435\u0435 \u0441\u0442\u0440\u043e\u0433\u043e, \u0432\u0435\u0440\u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u0442\u0435\u043e\u0440\u0435\u043c\u0430:<\/p>\n<p><em><u>\u0422\u0435\u043e\u0440\u0435\u043c\u0430<\/u><\/em>: \u0414\u043b\u044f \u043b\u044e\u0431\u043e\u0433\u043e \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0433\u043e KAN  \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 ReLU-\u0441\u0435\u0442\u044c  \u0442\u0430\u043a\u0430\u044f, \u0447\u0442\u043e  \u0434\u043b\u044f \u0432\u0441\u0435\u0445 , \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0430 \u043a MLP \u0433\u043b\u0443\u0431\u0438\u043d\u0430 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u0430 1, \u0430 \u0448\u0438\u0440\u0438\u043d\u0430 \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0440\u0430\u0432\u043d\u043e\u0439 , \u0433\u0434\u0435 k &#8212; \u0447\u0438\u0441\u043b\u043e \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u043e\u0432 \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 . (\u0432\u0435\u0440\u043d\u043e \u0438 \u0434\u043b\u044f ).<\/p>\n<p>\u0412 \u044d\u0442\u043e\u0439 \u0436\u0435 \u0441\u0442\u0430\u0442\u044c\u0435 \u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0438 \u043e\u0431\u0440\u0430\u0442\u043d\u044b\u0439 \u0444\u0430\u043a\u0442:<\/p>\n<p><em><u>\u0422\u0435\u043e\u0440\u0435\u043c\u0430<\/u><\/em>: \u041f\u0443\u0441\u0442\u044c  \u2014 \u044d\u0442\u043e MLP-\u0441\u0435\u0442\u044c \u0441 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 \u0438\u0437 \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u0430 . \u0422\u043e\u0433\u0434\u0430 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 KAN  \u0441 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u043b\u0438\u0431\u043e \u0430\u0444\u0444\u0438\u043d\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c\u0438, \u043b\u0438\u0431\u043e \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u0430\u0442 , \u0442\u0430\u043a\u043e\u0439 \u0447\u0442\u043e  \u0434\u043b\u044f \u0432\u0441\u0435\u0445 , \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0433\u043b\u0443\u0431\u0438\u043d\u0430 \u0438 \u0448\u0438\u0440\u0438\u043d\u0430 \u0441\u0435\u0442\u0438 \u043d\u0435 \u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u043f\u0440\u0438 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0435 \u043a KAN. \u0412 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438, \u0435\u0441\u043b\u0438  \u2014 \u044d\u0442\u043e ReLU-\u0441\u0435\u0442\u044c, \u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 KAN , \u0434\u043b\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e  \u043f\u0440\u0438 \u0432\u0441\u0435\u0445 .<\/p>\n<p>\u0418\u0437 \u044d\u0442\u0438\u0445 \u0442\u0435\u043e\u0440\u0435\u043c\u0430 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u043e\u043d\u044f\u0442\u044c, \u0447\u0442\u043e<\/p>\n<p>\u0412 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438<\/p>\n<p>\u0418\u043d\u0430\u0447\u0435 \u0433\u043e\u0432\u043e\u0440\u044f, \u043b\u044e\u0431\u043e\u0439 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 KAN \u0448\u0438\u0440\u0438\u043d\u044b  \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0440\u0435\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d \u0432 \u0432\u0438\u0434\u0435 \u0442\u0440\u0435\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 ReLU MLP \u0441\u0435\u0442\u0438, \u0438\u043c\u0435\u044e\u0449\u0435\u0439 \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u0438\u0430\u043b\u044c\u043d\u0443\u044e \u0448\u0438\u0440\u0438\u043d\u0443 (\u043d\u0430 \u0432\u0441\u044f\u043a\u0438\u0439 \u0441\u043b\u0443\u0447\u0430\u0439 \u043d\u0443\u0436\u043d\u043e \u0443\u0442\u043e\u0447\u043d\u0438\u0442\u044c, \u0447\u0442\u043e \u0448\u0438\u0440\u0438\u043d\u0430 \u0443 \u043d\u0438\u0445 \u043d\u0435 \u043e\u0431\u044f\u0437\u0430\u043d\u0430 \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u0442\u044c, \u043e\u043d\u0430 \u043f\u0440\u043e\u0441\u0442\u043e \u0434\u043e\u043b\u0436\u043d\u0430 \u0431\u044b\u0442\u044c \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440\u0435\u043d\u043d\u043e\u0441\u0442\u0438).<br \/> \u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0438\u043d\u0442\u0435\u0440\u0435\u0441 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0432\u043e\u043f\u0440\u043e\u0441: <strong>\u0435\u0441\u043b\u0438 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043b\u044e\u0431\u043e\u0439 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 KAN \u0442\u0440\u0435\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 ReLU MLP, \u043c\u043e\u0436\u0435\u0442 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0435\u0433\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0448\u0438\u0441\u044c \u043b\u0438\u0448\u044c \u0434\u0432\u0443\u043c\u044f \u0441\u043b\u043e\u044f\u043c\u0438?<\/strong><br \/> \u041e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u043d\u0430 \u044d\u0442\u043e\u0442 \u0432\u043e\u043f\u0440\u043e\u0441 \u0432\u0435\u043b \u0431\u044b \u043a \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u044e \u0432\u043b\u043e\u0436\u0435\u043d\u0438\u044f<\/p>\n<p>\u0430 \u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0431\u044b\u043b\u043e \u0431\u044b \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u043e \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u043c\u0435\u0436\u0434\u0443 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u043c \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c (\u0430 \u0437\u043d\u0430\u0447\u0438\u0442 \u0438 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u043b\u044c\u043d\u044b\u043c) KAN \u0438 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 ReLU MLP (\u0432\u0435\u0437\u0434\u0435 \u0448\u0438\u0440\u0438\u043d\u0430 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u0442\u0441\u044f ). \u0422\u043e \u0435\u0441\u0442\u044c, \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043e\u0432\u0430\u043b\u0430 \u0431\u044b \u0442\u0430\u043a\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f , \u0447\u0442\u043e \u043e\u043d\u0430 \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u0435\u0442\u0441\u044f \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u043c KAN, \u043d\u043e \u043d\u0435 \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u0435\u0442\u0441\u044f \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 ReLU MLP.<br \/> \u041d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435, \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u043e\u0439\u0442\u0438 \u043d\u0430\u043e\u0431\u043e\u0440\u043e\u0442: \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u044e , \u0430 \u0437\u0430\u0442\u0435\u043c \u043f\u043e\u043a\u0430\u0436\u0435\u043c, \u0447\u0442\u043e \u043e\u043d\u0430 \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u043d\u0443\u0436\u043d\u044b\u043c \u0443\u0441\u043b\u043e\u0432\u0438\u044f\u043c. \u041a\u0430\u043a \u0440\u0430\u0437 \u044d\u0442\u043e\u043c\u0443 \u043f\u043e\u0441\u0432\u044f\u0449\u0435\u043d\u044b \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0440\u0430\u0437\u0434\u0435\u043b\u044b.<\/p>\n<h2>3. \u041f\u043e\u0438\u0441\u043a \u0438\u0441\u043a\u043e\u043c\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438<\/h2>\n<p>\u0412 \u044d\u0442\u043e\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u043d\u0430\u043c \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u044f\u0442\u0441\u044f 2 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u043e\u0431 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u044b\u0445 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u0445 MLP-\u0441\u0435\u0442\u0435\u0439:<\/p>\n<p><em><u>\u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 1<\/u><\/em>: \u0414\u043b\u044f \u0437\u0430\u0434\u0430\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438  \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u0430  (\u0437\u0430\u0432\u0438\u0441\u044f\u0449\u0430\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442 ), \u0442\u0430\u043a\u0430\u044f \u0447\u0442\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0435:<br \/> \u0414\u043b\u044f \u043b\u044e\u0431\u043e\u0439 &#8212;<a href=\"https:\/\/en.wikipedia.org\/wiki\/Lipschitz_continuity\" rel=\"noopener noreferrer nofollow\">\u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u043e\u0439<\/a> \u0444\u0443\u043d\u043a\u0446\u0438\u0438 , \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u0430 \u0432\u043d\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0430 , \u0438 \u0434\u043b\u044f \u043b\u044e\u0431\u043e\u0433\u043e  \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u0441\u043a\u0430\u043b\u044f\u0440\u044b , \u0433\u0434\u0435 , \u0442\u0430\u043a\u0438\u0435 \u0447\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u044f<\/p>\n<p>\u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u0443\u0441\u043b\u043e\u0432\u0438\u044e:<\/p>\n<p><em><u>\u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 2<\/u><\/em>:  \u0424\u0443\u043d\u043a\u0446\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438  \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f (\u043b\u0435\u0431\u0435\u0433\u043e\u0432\u043e) \u0438\u0437\u043c\u0435\u0440\u0438\u043c\u043e\u0439 \u0438 \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u0443\u0441\u043b\u043e\u0432\u0438\u044e:<\/p>\n<p>\u0434\u043b\u044f \u0432\u0441\u0435\u0445  \u0438 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442 .<\/p>\n<p>\u0421\u0442\u043e\u0438\u0442 \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u044d\u0442\u0438 \u0434\u0432\u0430 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u044e\u0442\u0441\u044f \u0434\u043b\u044f \u043c\u043d\u043e\u0433\u0438\u0445 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u0432 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438 \u0434\u043b\u044f ReLU. \u041f\u0435\u0440\u0432\u043e\u0435 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043e \u0442\u043e\u043c, \u0447\u0442\u043e \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u0440\u0438\u0431\u043b\u0438\u0437\u0438\u0442\u044c \u043b\u044e\u0431\u0443\u044e \u043b\u0438\u043f\u0448\u0438\u0446\u0435\u0432\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u0441 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u044b\u043c \u043d\u043e\u0441\u0438\u0442\u0435\u043b\u0435\u043c \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 MLP \u0441\u0435\u0442\u0438 \u0441 \u0434\u0430\u043d\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439, \u0430 \u0432\u0442\u043e\u0440\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u0435\u0442 \u0440\u043e\u0441\u0442 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u043c \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u043e\u043c.<\/p>\n<p>\u0412 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u043f\u043e\u0438\u0441\u043a\u0430 \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0449\u0435\u0433\u043e \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430 \u043d\u0430 \u0440\u043e\u043b\u044c &#171;\u043f\u043b\u043e\u0445\u043e\u0439&#187; \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u044f \u0432\u0441\u043f\u043e\u043c\u043d\u0438\u043b \u043f\u0440\u043e \u0441\u0442\u0430\u0442\u044c\u044e 2016 \u0433\u043e\u0434\u0430 \u0441 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0434\u043b\u044f MLP \u0441\u0435\u0442\u0435\u0439 \u0433\u043b\u0443\u0431\u0438\u043d\u044b 2 \u0438 3 &#8212; <a href=\"https:\/\/arxiv.org\/abs\/1512.03965\" rel=\"noopener noreferrer nofollow\">The Power of Depth for Feedforward Neural Networks<\/a>. \u041e\u0441\u043d\u043e\u0432\u043d\u044b\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u043c \u0434\u0430\u043d\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u0442\u0435\u043e\u0440\u0435\u043c\u0430:<\/p>\n<p><em><u>\u0422\u0435\u043e\u0440\u0435\u043c\u0430<\/u><\/em>: \u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0447\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438  \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u044e 1 \u0441 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u043e\u0439 , \u0430 \u0442\u0430\u043a\u0436\u0435 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u044e 2. \u0422\u043e\u0433\u0434\u0430 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u0435 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u044b  \u0442\u0430\u043a\u0438\u0435, \u0447\u0442\u043e \u0434\u043b\u044f \u043b\u044e\u0431\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438  \u043d\u0430\u0439\u0434\u0435\u0442\u0441\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u0430\u044f \u043c\u0435\u0440\u0430  \u043d\u0430  \u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u044f  \u0441\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c\u0438 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u0430\u043c\u0438:<\/p>\n<ol>\n<li>\n<p>\u0424\u0443\u043d\u043a\u0446\u0438\u044f  \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0430 \u0432 , \u0438\u043c\u0435\u0435\u0442 \u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c \u043d\u0430  \u0438 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0430 3-\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u044c\u044e \u0441 \u0448\u0438\u0440\u0438\u043d\u043e\u0439 \u043d\u0435 \u0431\u043e\u043b\u0435\u0435 .<\/p>\n<\/li>\n<li>\n<p>\u041b\u044e\u0431\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f , \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u0441\u0435\u0442\u044c\u044e \u0441 \u0448\u0438\u0440\u0438\u043d\u043e\u0439 \u043d\u0435 \u0431\u043e\u043b\u0435\u0435 , \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u043d\u0435\u0440\u0430\u0432\u0435\u043d\u0441\u0442\u0432\u0443:<\/p>\n<\/li>\n<\/ol>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c, \u0442\u0435\u043e\u0440\u0435\u043c\u0430 \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043e \u0442\u043e\u043c, \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f  \u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u0430\u044f \u043c\u0435\u0440\u0430 , \u0447\u0442\u043e  \u043d\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f \u043d\u0438\u043a\u0430\u043a\u043e\u0439 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 ReLU MLP \u0441\u0435\u0442\u044c\u044e  \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u0448\u0438\u0440\u0438\u043d\u044b \u043f\u043e \u043d\u043e\u0440\u043c\u0435 , \u043d\u043e \u0442\u0440\u0435\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0443\u0436\u0435 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0434\u043b\u044f \u0435\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0438\u044f.<\/p>\n<p>\u041c\u043e\u044f \u0438\u0434\u0435\u044f \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u043b\u0430\u0441\u044c \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0442\u0430\u043a\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f  \u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u0434\u043e\u0439\u0442\u0438 \u0438 \u0434\u043b\u044f \u043c\u043e\u0435\u0439 \u0437\u0430\u0434\u0430\u0447\u0438. \u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u043d\u0430\u0434\u043e \u0431\u044b\u043b\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u043b\u0438 \u043f\u0440\u0438\u0431\u043b\u0438\u0437\u0438\u0442\u044c \u0435\u0435 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e \u043a\u0443\u0441\u043e\u0447\u043d\u043e-\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0433\u043e KAN.<\/p>\n<p>\u041f\u0435\u0440\u0435\u0434 \u0442\u0435\u043c, \u043a\u0430\u043a \u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c, \u0447\u0442\u043e  \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f KAN-\u043e\u043c, \u043e\u0431\u0441\u0443\u0434\u0438\u043c \u0435\u0435 \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u0435.<\/p>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0437\u0430\u0434\u0430\u0434\u0438\u043c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u0443\u044e \u043c\u0435\u0440\u0443  \u043d\u0430 . \u042d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0442\u0430\u043a\u0430\u044f \u043c\u0435\u0440\u0430, \u0447\u0442\u043e \u0435\u0435 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c \u0438\u043c\u0435\u0435\u0442 \u0432\u0438\u0434 , \u0433\u0434\u0435  &#8212; \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0424\u0443\u0440\u044c\u0435 \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440\u0430 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u043e\u0433\u043e \u0435\u0432\u043a\u043b\u0438\u0434\u043e\u0432\u0430 \u0448\u0430\u0440\u0430 , \u0437\u0434\u0435\u0441\u044c  &#8212; \u043c\u043d\u043e\u0436\u0438\u0442\u0435\u043b\u044c, \u0442\u0430\u043a\u043e\u0439, \u0447\u0442\u043e . \u0413\u0440\u0430\u0444\u0438\u043a \u0442\u0430\u043a\u043e\u0439 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u0438 \u0434\u043b\u044f  \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d \u043d\u0438\u0436\u0435, \u0430 \u044f\u0432\u043d\u0430\u044f \u0444\u043e\u0440\u043c\u0443\u043b\u0430 \u0438\u043c\u0435\u0435\u0442 \u0432\u0438\u0434<\/p>\n<p>\u0433\u0434\u0435  &#8212; \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0411\u0435\u0441\u0441\u0435\u043b\u044f \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u0438\u043f\u0430, \u043f\u043e\u0440\u044f\u0434\u043a\u0430 . (\u0433\u0440\u0430\u0444\u0438\u043a \u0434\u043b\u044f  \u043d\u0438\u0436\u0435) <\/p>\n<figure class=\"\">\n<div><figcaption>\u0413\u0440\u0430\u0444\u0438\u043a \u0438\u0441\u043a\u043e\u043c\u043e\u0439 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u0438, \u0441\u043f\u0440\u0430\u0432\u0430 &#8212; \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u043d\u044b\u0439 \u043c\u0430\u0441\u0448\u0442\u0430\u0431<\/figcaption><\/div>\n<\/figure>\n<figure class=\"\">\n<div><figcaption>\u0413\u0440\u0430\u0444\u0438\u043a \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0411\u0435\u0441\u0441\u0435\u043b\u044f \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u0438\u043f\u0430 \u043f\u043e\u0440\u044f\u0434\u043a\u0430 20<\/figcaption><\/div>\n<\/figure>\n<p> \u0418\u0434\u0435\u044f \u0431\u0440\u0430\u0442\u044c \u0438\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043a\u0443\u044e \u043c\u0435\u0440\u0443 \u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0438\u0437 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0438\u0437 \u0441\u0435\u0431\u044f \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u0435 \u043c\u043d\u043e\u0433\u043e\u043c\u0435\u0440\u043d\u044b\u0445 \u0442\u0440\u0443\u0431\u043e\u043a \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u043e\u0433\u043e \u0440\u0430\u0434\u0438\u0443\u0441\u0430, \u043f\u0440\u043e\u0445\u043e\u0434\u044f\u0449\u0438\u0445 \u0447\u0435\u0440\u0435\u0437 \u043d\u0430\u0447\u0430\u043b\u043e \u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442. \u0410 \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u044f  (\u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0424\u0443\u0440\u044c\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435  \u0438 ) \u0434\u043e\u043b\u0436\u043d\u0430 \u0438\u043c\u0435\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u0441\u0432\u043e\u0435\u0439 -\u043c\u0430\u0441\u0441\u044b \u0434\u0430\u043b\u0435\u043a\u043e \u043e\u0442 \u043d\u0430\u0447\u0430\u043b\u0430 \u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442. \u041d\u043e  (\u0441\u043f\u0440\u0430\u0432\u0430 &#8212; \u0441\u0432\u0435\u0440\u0442\u043a\u0430 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0439 \u0424\u0443\u0440\u044c\u0435), \u0430 \u0441\u0432\u0435\u0440\u0442\u043a\u0430 \u0441 \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440\u043e\u043c \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u043e\u0433\u043e \u0448\u0430\u0440\u0430 \u043a\u0430\u043a \u0440\u0430\u0437 &#171;\u0440\u0430\u0437\u043d\u043e\u0441\u0438\u0442&#187; \u043c\u0430\u0441\u0441\u0443 \u043e\u0442 \u0446\u0435\u043d\u0442\u0440\u0430 (\u044d\u0442\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 \u0444\u0430\u043a\u0442 \u0434\u043b\u044f , \u043d\u043e \u0438\u0437 \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044f  \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0432\u0435\u0440\u043d\u043e \u0438 \u0434\u043b\u044f ). \u041f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435 \u043e\u0431 \u044d\u0442\u043e\u043c \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u0442\u044c \u0432 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u0432 \u0440\u0430\u0437\u0434\u0435\u043b\u0435 &#171;Proof Sketch&#187;. <\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0437\u0430\u0434\u0430\u0434\u0438\u043c  \u043a\u0430\u043a<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-468201","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/468201","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=468201"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/468201\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=468201"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=468201"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=468201"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}