{"id":484353,"date":"2026-06-19T22:56:57","date_gmt":"2026-06-19T22:56:57","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=484353"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=484353","title":{"rendered":"\u0422\u0435\u0440\u043d\u0430\u0440\u043d\u044b\u0439 KAN: \u043d\u0435 \u0431\u0430\u0433, \u0430 \u0444\u0438\u0447\u0430 \u2014 \u043f\u043e\u0447\u0435\u043c\u0443 \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u044b\u0435 \u0432\u0435\u0441\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043b\u0443\u0447\u0448\u0435"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<h3><\/h3>\n<hr\/>\n<h3>\u0412\u0441\u0442\u0443\u043f\u043b\u0435\u043d\u0438\u0435: \u0437\u0430\u0447\u0435\u043c \u043b\u0435\u0437\u0442\u044c \u0432 KAN<\/h3>\n<p><em>\u042d\u0442\u043e \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435 \u043f\u043e\u0441\u0442\u0430 \u201c\u0414\u0432\u0435 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u043f\u043e 15 \u041a\u0411\u201d &#8212; \u0442\u0430\u043c \u0431\u044b\u043b\u0438 \u0431\u0430\u0437\u043e\u0432\u044b\u0435 \u0446\u0438\u0444\u0440\u044b. \u0410 \u0442\u0443\u0442 \u0443\u0436\u0435 \u043b\u0438\u0447\u043d\u0430\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f: \u043a\u0430\u043a \u0434\u0435\u043b\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u043f\u043e\u0448\u043b\u043e \u043d\u0435 \u0442\u0430\u043a, \u0438 \u0447\u0442\u043e \u0432\u044b\u044f\u0441\u043d\u0438\u043b\u043e\u0441\u044c \u043f\u043e \u043f\u0443\u0442\u0438.<\/em><\/p>\n<p>\u041c\u0430\u0439 2024 \u0433\u043e\u0434\u0430. \u0412\u044b\u0445\u043e\u0434\u0438\u0442 \u0441\u0442\u0430\u0442\u044c\u044f \u201cKAN: Kolmogorov-Arnold Networks\u201d. \u0418 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0442\u043e, \u0447\u0442\u043e \u0431\u044b\u0432\u0430\u0435\u0442 \u0440\u0430\u0437 \u0432 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043b\u0435\u0442 &#8212; \u043a\u0442\u043e-\u0442\u043e \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u0442 \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u0443 MLP.<\/p>\n<p>\u041d\u0435 \u043c\u043e\u0434\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044e \u0438 \u043d\u0435 \u043b\u0430\u0439\u0444\u0445\u0430\u043a &#8212; \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u0443.<\/p>\n<p>\u0412 MLP \u043a\u0430\u0436\u0434\u044b\u0439 \u043d\u0435\u0439\u0440\u043e\u043d \u0434\u0435\u043b\u0430\u0435\u0442 <code>weight \u00d7 input + bias<\/code>, \u0438 \u0432\u0441\u0435 80 \u043b\u0435\u0442 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f &#8212; \u044d\u0442\u043e \u0432\u0430\u0440\u0438\u0430\u0446\u0438\u0438 \u043d\u0430 \u0442\u0435\u043c\u0443 \u201c\u043a\u0430\u043a \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u044d\u0442\u043e\u0442 \u0432\u0435\u0441 \u0442\u043e\u0447\u043d\u0435\u0435, \u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u0440\u0430\u0437\u0440\u0435\u0436\u0435\u043d\u043d\u0435\u0435\u201d. KAN \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u0442 \u0434\u0440\u0443\u0433\u043e\u0435: \u0437\u0430\u043c\u0435\u043d\u0438\u0442\u044c \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 \u0432\u0435\u0441 \u043d\u0430 \u043e\u0431\u0443\u0447\u0430\u0435\u043c\u0443\u044e \u0444\u0443\u043d\u043a\u0446\u0438\u044e. \u0412\u0440\u043e\u0434\u0435 \u043c\u0435\u043b\u043a\u0438\u0439 \u0442\u0440\u044e\u043a, \u0430 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 &#8212; \u043c\u0435\u043d\u044c\u0448\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043f\u0440\u0438 \u0442\u043e\u0439 \u0436\u0435 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u0438 \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u0430\u044f \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u0443\u0435\u043c\u043e\u0441\u0442\u044c.<\/p>\n<p>\u041a 2026 \u0433\u043e\u0434\u0443 \u0443\u0436\u0435 \u043f\u043e\u044f\u0432\u0438\u043b\u0438\u0441\u044c QuantKAN (4-\u0431\u0438\u0442\u043d\u043e\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435), KANtize (2-3-\u0431\u0438\u0442\u043d\u044b\u0435 B-spline \u0442\u0430\u0431\u043b\u0438\u0446\u044b), BiKA (\u0430\u043f\u043f\u0430\u0440\u0430\u0442\u043d\u044b\u0439 \u0430\u043a\u0441\u0435\u043b\u0435\u0440\u0430\u0442\u043e\u0440, \u0432\u0434\u043e\u0445\u043d\u043e\u0432\u043b\u0435\u043d\u043d\u044b\u0439 KAN). \u0418 \u0432\u0441\u0435 \u043e\u043d\u0438, \u043f\u043e \u0441\u0443\u0442\u0438, \u043f\u0440\u043e \u043e\u0434\u043d\u043e &#8212; \u0441\u0434\u0435\u043b\u0430\u0442\u044c KAN \u043c\u0435\u043d\u044c\u0448\u0435, \u0447\u0442\u043e\u0431 \u0440\u0430\u0431\u043e\u0442\u0430\u043b \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 GPU.<\/p>\n<p>\u0413\u0440\u0430\u043d\u0438\u0446\u0430 \u0432 \u0442\u0440\u0438 \u0431\u0438\u0442\u0430 &#8212; \u043e\u043d\u0430 \u0436\u0435 \u043f\u0441\u0438\u0445\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0430\u044f. \u041d\u0438\u0436\u0435 4 \u0431\u0438\u0442 \u0443 \u0432\u0441\u0435\u0445 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u00ab\u0430 \u0432\u0434\u0440\u0443\u0433 \u0432\u0441\u0451 \u0441\u043b\u043e\u043c\u0430\u0435\u0442\u0441\u044f\u00bb. \u0418 \u0437\u043d\u0430\u0435\u0442\u0435 \u0447\u0442\u043e? \u041e\u0431\u044b\u0447\u043d\u043e \u0442\u0430\u043a \u0438 \u0435\u0441\u0442\u044c. \u041b\u044e\u0431\u043e\u0439, \u043a\u0442\u043e \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043b \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u0432 2 \u0431\u0438\u0442\u0430, \u0437\u043d\u0430\u0435\u0442: \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u0434\u0430\u0435\u0442. \u041d\u0435 \u0447\u0443\u0442\u044c-\u0447\u0443\u0442\u044c &#8212; \u043a\u0430\u0442\u0430\u0441\u0442\u0440\u043e\u0444\u0438\u0447\u0435\u0441\u043a\u0438.<\/p>\n<p>\u041d\u043e {-1, 0, +1} &#8212; \u044d\u0442\u043e \u0434\u0430\u0436\u0435 \u043d\u0435 \u0434\u0432\u0430 \u0431\u0438\u0442\u0430, \u044d\u0442\u043e log\u2082(3) \u2248 1.58 \u0431\u0438\u0442\u0430. \u0424\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e &#8212; \u043c\u0435\u0436\u0434\u0443 binary \u0438 ternary, \u0430 \u043f\u043e \u043e\u0449\u0443\u0449\u0435\u043d\u0438\u044f\u043c &#8212; \u0447\u0438\u0441\u0442\u043e\u0435 \u0431\u0435\u0437\u0443\u043c\u0438\u0435.<\/p>\n<p>\u041d\u0443 \u044f \u0438 \u0440\u0435\u0448\u0438\u043b \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c.<\/p>\n<hr\/>\n<h3>\u041a\u0430\u043a \u044f \u0441\u043b\u043e\u043c\u0430\u043b \u043f\u0440\u0430\u0432\u0438\u043b\u043e \u201c\u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 \u0443\u0431\u0438\u0432\u0430\u0435\u0442 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u201d<\/h3>\n<p>\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b \u0442\u0430\u043a: \u0431\u0435\u0440\u0435\u043c GraphKAN &#8212; \u043c\u043e\u044e \u0433\u0440\u0430\u0444\u043e\u0432\u0443\u044e \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e KAN, \u0433\u0434\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u044b \u0441\u043e\u0435\u0434\u0438\u043d\u0435\u043d\u044b \u043d\u0435 \u0441\u043b\u043e\u044f\u043c\u0438, \u0430 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u043b\u044c\u043d\u044b\u043c\u0438 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u043c\u0438 \u0441\u0432\u044f\u0437\u044f\u043c\u0438. \u041e\u0431\u0443\u0447\u0430\u0435\u043c \u0432 float, \u043f\u043e\u0442\u043e\u043c \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0438\u043c \u0432\u0435\u0441\u0430 \u0432 {-1, 0, +1} \u0447\u0435\u0440\u0435\u0437 Straight-Through Estimator. \u041f\u043e\u0442\u043e\u043c &#8212; hard clamp. \u041f\u043e\u0442\u043e\u043c &#8212; \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0442\u043e\u043b\u044c\u043a\u043e scale \u0438 bias.<\/p>\n<p>\u0427\u0435\u0442\u044b\u0440\u0435 \u0444\u0430\u0437\u044b, \u043d\u0438\u043a\u0430\u043a\u043e\u0439 \u043c\u0430\u0433\u0438\u0438.<\/p>\n<p>\u041e\u0436\u0438\u0434\u0430\u043b \u0443\u0432\u0438\u0434\u0435\u0442\u044c \u043f\u0430\u0434\u0435\u043d\u0438\u0435 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043d\u0430 5-10 \u043f\u0443\u043d\u043a\u0442\u043e\u0432. \u0414\u043e 85-88%. \u041d\u0443 \u043d\u043e\u0440\u043c: 15 \u041a\u0411 \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0445\u043e\u0442\u044c \u0447\u0442\u043e-\u0442\u043e \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0451\u0442 \u043d\u0430 MNIST, &#8212; \u0443\u0436\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442.<\/p>\n<p>\u041d\u043e \u043d\u0430 \u043f\u044f\u0442\u043e\u0439 \u044d\u043f\u043e\u0445\u0435 float \u044f \u043f\u043e\u043b\u0443\u0447\u0438\u043b 94.77%. \u041d\u0438\u0447\u0435\u0433\u043e \u0432\u044b\u0434\u0430\u044e\u0449\u0435\u0433\u043e\u0441\u044f \u0434\u043b\u044f \u043f\u043e\u043b\u043d\u043e\u0441\u0432\u044f\u0437\u043d\u043e\u0439 \u0441\u0435\u0442\u0438, \u043d\u043e KAN \u0435\u0441\u0442\u044c KAN.<\/p>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 &#8212; STE ternary, \u0438 \u0442\u0443\u0442 \u0441\u0447\u0451\u0442\u0447\u0438\u043a \u043f\u043e\u043a\u0430\u0437\u0430\u043b 95.78%.<\/p>\n<p>\u042f \u043f\u0435\u0440\u0435\u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b &#8212; \u0438 \u0435\u0449\u0451 \u0440\u0430\u0437. Hard clamp \u0434\u0430\u043b 96.09%, finetune &#8212; 96.15%.<\/p>\n<p>\u0427\u0435\u0442\u044b\u0440\u0435 \u0444\u0430\u0437\u044b, \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0440\u0430\u0441\u0442\u0435\u0442 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0443. Float \u2192 STE \u2192 clamp \u2192 finetune &#8212; \u0438 \u0432\u043c\u0435\u0441\u0442\u043e \u043f\u043e\u0442\u0435\u0440\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u044f \u043f\u043e\u043b\u0443\u0447\u0438\u043b \u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u0432 +1.38 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043d\u044b\u0445 \u043f\u0443\u043d\u043a\u0442\u0430.<\/p>\n<p>\u042f \u043f\u043e\u043b\u0435\u0437 \u0433\u0443\u0433\u043b\u0438\u0442\u044c, \u0435\u0441\u0442\u044c \u043b\u0438 \u0443 \u043a\u043e\u0433\u043e-\u0442\u043e \u0442\u0430\u043a\u043e\u0435. QuantKAN, KANtize, BiKA &#8212; \u0443 \u0432\u0441\u0435\u0445 \u00abnegligible accuracy loss\u00bb. \u0422\u043e \u0435\u0441\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u043e \u00ab\u043d\u0443 \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u043f\u043e\u0442\u0435\u0440\u044f\u043b\u0438\u00bb. \u0410 \u0443 \u043c\u0435\u043d\u044f \u0432\u0435\u0434\u044c &#8212; \u0432\u044b\u0438\u0433\u0440\u044b\u0448. \u0421\u0440\u0435\u0434\u0438 \u0441\u0442\u0430\u0442\u0435\u0439 \u043f\u043e KAN \u044f \u0442\u0430\u043a\u043e\u0433\u043e \u043d\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u043b.<\/p>\n<p>\u042f \u043f\u0435\u0440\u0435\u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b \u0442\u0440\u0438 \u0440\u0430\u0437\u0430 \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 seed. \u042d\u0444\u0444\u0435\u043a\u0442 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u044b\u0439.<\/p>\n<hr\/>\n<h3>\u041f\u043e\u0447\u0435\u043c\u0443 \u0442\u0430\u043a \u0432\u044b\u0448\u043b\u043e &#8212; \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u0430<\/h3>\n<p>\u0422\u0435\u0440\u043d\u0430\u0440\u043d\u044b\u0439 \u0432\u0435\u0441 &#8212; \u044d\u0442\u043e \u0432\u0435\u043d\u0442\u0438\u043b\u044c: \u043f\u0440\u043e\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u0441\u0438\u0433\u043d\u0430\u043b \u043a\u0430\u043a \u0435\u0441\u0442\u044c (+1), \u0438\u043d\u0432\u0435\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c (-1) \u0438\u043b\u0438 \u0437\u0430\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u0430\u0442\u044c (0). \u041d\u0438\u043a\u0430\u043a\u0438\u0445 \u0442\u043e\u043d\u043a\u0438\u0445 \u043d\u0430\u0441\u0442\u0440\u043e\u0435\u043a, \u043d\u0438\u043a\u0430\u043a\u0438\u0445 0.0037, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u043d\u043e\u0441\u044f\u0442 \u0448\u0443\u043c, \u043d\u043e \u0444\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e \u0441\u0447\u0438\u0442\u0430\u044e\u0442\u0441\u044f \u201c\u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0435\u0439\u201d.<\/p>\n<p>\u041a\u043e\u0433\u0434\u0430 \u0440\u0435\u0436\u0435\u0448\u044c \u0432\u0435\u0441 \u0434\u043e \u0442\u0440\u0435\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439, \u0442\u044b \u0440\u0435\u0436\u0435\u0448\u044c \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0432\u0435\u0441\u0430 &#8212; \u0442\u044b \u0440\u0435\u0436\u0435\u0448\u044c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0433\u0438\u043f\u043e\u0442\u0435\u0437. \u041c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u0443\u0447\u0438\u0442\u044c \u0448\u0443\u043c\u043e\u0432\u044b\u0435 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0438, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u043d\u0443\u0436\u043d\u044b \u0442\u043e\u0447\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f. \u0412 \u0442\u0435\u0440\u043d\u0430\u0440\u043d\u043e\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u0448\u0443\u043c \u0444\u0438\u043b\u044c\u0442\u0440\u0443\u0435\u0442\u0441\u044f \u043e\u043a\u0440\u0443\u0433\u043b\u0435\u043d\u0438\u0435\u043c \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 backward &#8212; \u043c\u0435\u043b\u043a\u0438\u0435 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435 \u043f\u0440\u043e\u0431\u0438\u0432\u0430\u044e\u0442 \u043f\u043e\u0440\u043e\u0433.<\/p>\n<p>\u041a\u043e\u0440\u043e\u0447\u0435 \u0433\u043e\u0432\u043e\u0440\u044f, \u044d\u0444\u0444\u0435\u043a\u0442 \u0442\u0430\u043a\u043e\u0439: \u0432\u0435\u0441\u0430, \u0437\u0430\u0436\u0430\u0442\u044b\u0435 \u0442\u0440\u0435\u043c\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438, \u0441\u0430\u043c\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043a\u0430\u043a \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0442\u043e\u0440. \u0414\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u043e\u0441\u0442\u044c \u043d\u0435 \u0434\u0430\u0451\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f &#8212; \u0431\u0430\u043d\u0430\u043b\u044c\u043d\u043e \u043d\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u00ab\u0440\u0430\u0437\u0440\u0435\u0448\u0435\u043d\u0438\u044f\u00bb \u0432\u0435\u0441\u0430, \u0447\u0442\u043e\u0431\u044b \u0437\u0430\u043f\u043e\u043c\u043d\u0438\u0442\u044c \u0448\u0443\u043c. \u0412 \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u0435 \u043f\u043e KAN \u044f \u0442\u0430\u043a\u043e\u0433\u043e \u043d\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u043b.<\/p>\n<p>\u041d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 split \u043d\u0430 \u0447\u0435\u0442\u044b\u0440\u0435 \u0448\u0430\u0433\u0430. \u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u0442\u0443\u043f\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u0435\u043c \u0432\u0435\u0441\u0430 \u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d\u043e\u043c [-1, 1] &#8212; \u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0438 \u043d\u0435 \u0440\u0430\u0437\u043b\u0435\u0442\u0435\u043b\u0438\u0441\u044c. \u041f\u043e\u0442\u043e\u043c \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0430\u0435\u043c STE: \u043d\u0430 \u043f\u0440\u044f\u043c\u043e\u043c \u043f\u0440\u043e\u0445\u043e\u0434\u0435 \u0432\u0435\u0441\u0430 \u0443\u0436\u0435 \u0442\u0435\u0440\u043d\u0430\u0440\u043d\u044b\u0435, \u0430 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b \u0441\u0447\u0438\u0442\u0430\u0435\u043c \u043a\u0430\u043a \u0431\u0443\u0434\u0442\u043e \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u043e\u0441\u044c. \u0414\u0430\u043b\u044c\u0448\u0435 &#8212; \u043f\u0440\u0438\u043d\u0443\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u0444\u0438\u043a\u0441\u0430\u0446\u0438\u044f: \u043a\u0430\u0436\u0434\u044b\u0439 \u0432\u0435\u0441 \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0440\u043e\u0432\u043d\u043e -1, 0 \u0438\u043b\u0438 +1. \u0418 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0448\u0430\u0433 &#8212; \u0434\u043e\u043e\u0431\u0443\u0447\u0430\u0435\u043c \u0442\u043e\u043b\u044c\u043a\u043e \u043c\u0430\u0441\u0448\u0442\u0430\u0431 \u0438 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435, \u0432\u0435\u0441\u0430 \u0437\u0430\u043c\u043e\u0440\u043e\u0436\u0435\u043d\u044b.<\/p>\n<p>\u041a\u0430\u0436\u0434\u0430\u044f \u0444\u0430\u0437\u0430 \u0430\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u0435\u0435 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0439 &#8212; \u0438 \u043a\u0430\u0436\u0434\u0430\u044f \u0434\u0430\u0451\u0442 \u043f\u0440\u0438\u0440\u043e\u0441\u0442. \u0415\u0441\u043b\u0438 \u0431\u044b \u043c\u043d\u0435 \u043a\u0442\u043e-\u0442\u043e \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u043b \u0442\u0430\u043a\u043e\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0434\u043e \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430, \u044f \u0431\u044b \u043d\u0435 \u043f\u043e\u0432\u0435\u0440\u0438\u043b.<\/p>\n<hr\/>\n<h3>\u0427\u0442\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c: \u0442\u0430\u0431\u043b\u0438\u0446\u0430<\/h3>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0412\u0435\u0441\u0430<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0420\u0430\u0437\u043c\u0435\u0440<\/p>\n<\/th>\n<th>\n<p align=\"left\">MNIST<\/p>\n<\/th>\n<th>\n<p align=\"left\">Fashion-MNIST<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GraphKAN 256\u2192100\u219210<\/p>\n<\/td>\n<td>\n<p align=\"left\">float<\/p>\n<\/td>\n<td>\n<p align=\"left\">~15 \u041a\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">94.77%<\/p>\n<\/td>\n<td>\n<p align=\"left\">84.1%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GraphKAN 256\u2192100\u219210<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>{-1,0,+1}<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>~15 \u041a\u0411<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>96.15%<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>86.68%<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">MLP 256\u2192100\u219210<\/p>\n<\/td>\n<td>\n<p align=\"left\">float<\/p>\n<\/td>\n<td>\n<p align=\"left\">~107 \u041a\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">~93%<\/p>\n<\/td>\n<td>\n<p align=\"left\">&#8212;<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>MLP \u0432 7 \u0440\u0430\u0437 \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0443 &#8212; \u0438 \u043d\u0430 3 \u043f\u0443\u043d\u043a\u0442\u0430 \u0445\u0443\u0436\u0435 \u043f\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438. \u042f \u043d\u0435 \u043f\u0440\u043e \u0442\u043e, \u0447\u0442\u043e \u043c\u044b \u043f\u043e\u0431\u0435\u0434\u0438\u043b\u0438 SOTA &#8212; \u043f\u0440\u043e\u0441\u0442\u043e KAN \u0441 \u0442\u0435\u0440\u043d\u0430\u0440\u043d\u044b\u043c\u0438 \u0432\u0435\u0441\u0430\u043c\u0438 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u0435\u0435 \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e MLP \u043f\u0440\u0438 \u0442\u0435\u0445 \u0436\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u0430\u0445 \u0438 \u0432 7 \u0440\u0430\u0437 \u043c\u0435\u043d\u044c\u0448\u0435\u043c \u043e\u0431\u044a\u0435\u043c\u0435.<\/p>\n<hr\/>\n<h3>\u041f\u044f\u0442\u044c \u0434\u043e\u043c\u0435\u043d\u043e\u0432<\/h3>\n<p>\u041f\u0440\u043e\u0432\u0435\u0440\u044f\u043b \u043d\u0430 \u0432\u0441\u0435\u043c, \u0447\u0442\u043e \u043f\u043e\u0434\u0432\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u043b\u043e\u0441\u044c \u043f\u043e\u0434 \u0440\u0443\u043a\u0443:<\/p>\n<ul>\n<li>\n<p><strong>MNIST<\/strong> &#8212; 96.15%. \u0426\u0438\u0444\u0440\u044b, \u043a\u043b\u0430\u0441\u0441\u0438\u043a\u0430.<\/p>\n<\/li>\n<li>\n<p><strong>Fashion-MNIST<\/strong> &#8212; 86.68%. \u041e\u0434\u0435\u0436\u0434\u0430, \u0441\u043b\u043e\u0436\u043d\u0435\u0435 \u0446\u0438\u0444\u0440 &#8212; \u043d\u043e \u0442\u0435\u0440\u043d\u0430\u0440\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u0431\u044c\u0435\u0442 float.<\/p>\n<\/li>\n<li>\n<p><strong>HAR<\/strong> (Human Activity Recognition) &#8212; \u0430\u043a\u0441\u0435\u043b\u0435\u0440\u043e\u043c\u0435\u0442\u0440\u044b \u0441 \u0442\u0435\u043b\u0435\u0444\u043e\u043d\u0430. \u0422\u0435\u0440\u043d\u0430\u0440\u043d\u044b\u0439 KAN \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0440\u044f\u0434\u0430\u0445 \u0431\u0435\u0437 RNN.<\/p>\n<\/li>\n<li>\n<p><strong>FSDD<\/strong> (Free Spoken Digit Dataset) &#8212; \u0430\u0443\u0434\u0438\u043e, \u0446\u0438\u0444\u0440\u044b \u0433\u043e\u043b\u043e\u0441\u043e\u043c. \u0420\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0435\u0442 \u0431\u0435\u0437 DSP-\u043f\u0440\u0435\u0434\u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438.<\/p>\n<\/li>\n<li>\n<p><strong>CIFAR-10<\/strong> &#8212; \u0442\u0443\u0442 \u0447\u0435\u0441\u0442\u043d\u043e: 47.83% \u043d\u0430 8&#215;8 \u0432\u0445\u043e\u0434\u0435. KAN \u0441 \u0442\u0430\u043a\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 \u043d\u0435 \u0442\u044f\u043d\u0435\u0442 \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u043a\u0430\u043a CNN &#8212; \u0434\u043b\u044f 32&#215;32 \u0432\u0445\u043e\u0434\u043e\u0432 \u043d\u0443\u0436\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0438\u043b\u0438 \u0441\u0432\u0435\u0440\u0442\u043e\u0447\u043d\u0430\u044f \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430.<\/p>\n<\/li>\n<\/ul>\n<p>\u041d\u0430 \u0432\u0441\u0435\u0445 \u0434\u043e\u043c\u0435\u043d\u0430\u0445, \u043a\u0440\u043e\u043c\u0435 CIFAR, \u0442\u0435\u0440\u043d\u0430\u0440\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u043f\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043b\u0438\u0431\u043e \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u0435\u0442 \u0441 float, \u043b\u0438\u0431\u043e \u0431\u044c\u0435\u0442 \u0435\u0433\u043e.<\/p>\n<hr\/>\n<h3>ELM-\u0440\u0435\u0436\u0438\u043c: 99.3% \u043e\u0442 full BP accuracy \u0431\u0435\u0437 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f<\/h3>\n<p>\u0415\u0449\u0435 \u0448\u0442\u0443\u043a\u0430, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u044f \u043d\u0435 \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u043b \u0432 \u043f\u0440\u043e\u0448\u043b\u044b\u0439 \u0440\u0430\u0437 &#8212; GraphKAN \u0443\u043c\u0435\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0432 \u0440\u0435\u0436\u0438\u043c\u0435 Extreme Learning Machine.<\/p>\n<p>\u0421\u043b\u0443\u0447\u0430\u0439\u043d\u0430\u044f \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u2192 \u0437\u0430\u043c\u043e\u0440\u043e\u0437\u043a\u0430 \u2192 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0432\u0435\u0441\u0430 \u0447\u0435\u0440\u0435\u0437 Least Squares. \u041d\u0438\u043a\u0430\u043a\u043e\u0433\u043e backprop \u0447\u0435\u0440\u0435\u0437 \u0441\u043a\u0440\u044b\u0442\u044b\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u044b. \u041d\u0430 Fashion-MNIST \u044d\u0442\u043e \u0434\u0430\u043b\u043e <strong>78.7% \u043f\u0440\u0438 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 500<\/strong> &#8212; \u0442\u043e \u0435\u0441\u0442\u044c <strong>99.3% \u043e\u0442 accuracy \u043f\u043e\u043b\u043d\u043e\u0433\u043e backprop<\/strong> (79.2%).<\/p>\n<p>\u0417\u0430\u0447\u0435\u043c \u044d\u0442\u043e \u043d\u0443\u0436\u043d\u043e? \u041d\u0443 \u0442\u0438\u043f\u0430 ELM-\u0440\u0435\u0436\u0438\u043c \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e piecewise-linear \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 KAN \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u0435\u0441\u0442\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0434\u0438\u0441\u043a\u0440\u0438\u043c\u0438\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438 \u0434\u0430\u0436\u0435 \u0438\u0437 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u0432\u0435\u0441\u043e\u0432. \u0414\u043b\u044f TinyML \u044d\u0442\u043e \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u043e: \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u0433\u0440\u0443\u0437\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u0437\u0430\u043c\u043e\u0440\u043e\u0437\u0438\u0442\u044c 99% \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0438 \u0434\u043e\u043e\u0431\u0443\u0447\u0430\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u0441\u043b\u043e\u0439 &#8212; \u043f\u0440\u044f\u043c\u043e \u043d\u0430 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0435.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0420\u0430\u0437\u043c\u0435\u0440 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f<\/p>\n<\/th>\n<th>\n<p align=\"left\">Accuracy<\/p>\n<\/th>\n<th>\n<p align=\"left\">% \u043e\u0442 BP<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0420\u0430\u0437\u043c\u0435\u0440 \u043c\u043e\u0434\u0435\u043b\u0438<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">H=50<\/p>\n<\/td>\n<td>\n<p align=\"left\">74.5%<\/p>\n<\/td>\n<td>\n<p align=\"left\">94.1%<\/p>\n<\/td>\n<td>\n<p align=\"left\">3.7 \u041a\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">H=100<\/p>\n<\/td>\n<td>\n<p align=\"left\">77.0%<\/p>\n<\/td>\n<td>\n<p align=\"left\">97.3%<\/p>\n<\/td>\n<td>\n<p align=\"left\">6.8 \u041a\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">H=200<\/p>\n<\/td>\n<td>\n<p align=\"left\">77.7%<\/p>\n<\/td>\n<td>\n<p align=\"left\">98.1%<\/p>\n<\/td>\n<td>\n<p align=\"left\">14 \u041a\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">H=500<\/p>\n<\/td>\n<td>\n<p align=\"left\">78.7%<\/p>\n<\/td>\n<td>\n<p align=\"left\">99.3%<\/p>\n<\/td>\n<td>\n<p align=\"left\">31.6 \u041a\u0411<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<hr\/>\n<h3>\u042d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 KAN<\/h3>\n<p>\u042f \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b QAT-\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u043e\u0439 CNN (Conv2d + ReLU + MaxPool + FC). \u0422\u0435 \u0436\u0435 4 \u0444\u0430\u0437\u044b, \u0442\u0430 \u0436\u0435 gamma absorption. \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f<\/p>\n<\/th>\n<th>\n<p align=\"left\">Float<\/p>\n<\/th>\n<th>\n<p align=\"left\">STE ternary<\/p>\n<\/th>\n<th>\n<p align=\"left\">True ternary<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">CNN (Fashion-MNIST)<\/p>\n<\/td>\n<td>\n<p align=\"left\">91.57%<\/p>\n<\/td>\n<td>\n<p align=\"left\">91.83%<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>92.02%<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0413\u0440\u0430\u0444\u0438\u043a \u0441\u0436\u0430\u0442\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">1x<\/p>\n<\/td>\n<td>\n<p align=\"left\">8x<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>16x<\/strong><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0422\u0435\u0440\u043d\u0430\u0440\u043d\u0430\u044f CNN \u043d\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u043b\u0430 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c &#8212; \u043e\u043d\u0430 \u0435\u0435 <strong>\u043f\u043e\u0432\u044b\u0441\u0438\u043b\u0430<\/strong> \u043d\u0430 0.45 \u043f.\u043f. \u0422\u043e \u0435\u0441\u0442\u044c \u044d\u0444\u0444\u0435\u043a\u0442 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0438 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0438 \u043d\u0430 \u0434\u0440\u0443\u0433\u0438\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430\u0445, \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 KAN. \u041d\u0435 \u0441\u043e\u0448\u043b\u043e\u0441\u044c \u043d\u0430 \u043e\u0434\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438.<\/p>\n<hr\/>\n<h3>\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0441 \u0442\u0435\u043c, \u0447\u0442\u043e \u0431\u044b\u043b\u043e \u0434\u043e<\/h3>\n<p>\u0414\u043e \u043d\u0430\u0441 KAN \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043b\u0438 \u0432\u043e\u0442 \u043a\u0430\u043a:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0420\u0430\u0431\u043e\u0442\u0430<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0411\u0438\u0442\u044b<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041c\u0435\u0442\u043e\u0434<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>QuantKAN<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">4-bit<\/p>\n<\/td>\n<td>\n<p align=\"left\">QAT \u0434\u043b\u044f KAN<\/p>\n<\/td>\n<td>\n<p align=\"left\">loss, \u043d\u0435 gain<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>KANtize<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">2-3 bit<\/p>\n<\/td>\n<td>\n<p align=\"left\">B-spline \u0442\u0430\u0431\u043b\u0438\u0446\u044b<\/p>\n<\/td>\n<td>\n<p align=\"left\">loss, \u043d\u0435 \u0432\u0435\u0441\u0430<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>BiKA<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0430\u043f\u043f\u0430\u0440\u0430\u0442\u043d\u044b\u0439<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043a\u043e\u043c\u043f\u0430\u0440\u0430\u0442\u043e\u0440\u044b<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\u0435 KAN, HW<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>BitNet b1.58<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">1.58 bit<\/p>\n<\/td>\n<td>\n<p align=\"left\">ternary Transformer<\/p>\n<\/td>\n<td>\n<p align=\"left\">lossless, \u043d\u043e Transformer<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>\u041c\u044b &#8212; GraphKAN<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>1.58 bit<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>STE + gamma abs + clamp<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>+1.4% \u043a float<\/strong><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><strong>\u0418 \u0431\u043e\u043d\u0443\u0441:<\/strong> \u0442\u043e\u0442 \u0436\u0435 pipeline \u0434\u0430\u0435\u0442 +0.45% \u043d\u0430 CNN. \u041f\u043e\u0445\u043e\u0436\u0435, \u044d\u0444\u0444\u0435\u043a\u0442 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0438 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c &#8212; \u044d\u0442\u043e \u0441\u043a\u043e\u0440\u0435\u0435 \u043d\u0435 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u044c KAN, \u0430 \u043e\u0431\u0449\u0435\u0435 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e ternary QAT \u0441 gamma absorption.<\/p>\n<hr\/>\n<h3>\u041a\u0443\u0434\u0430 \u044d\u0442\u043e \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f: \u043f\u043e\u0445\u043e\u0434 \u043f\u043e \u0436\u0435\u043b\u0435\u0437\u0443<\/h3>\n<p>15 \u041a\u0411 &#8212; \u0438 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0432\u044b\u0431\u043e\u0440\u0430 \u0447\u0438\u043f\u0430 \u043f\u0440\u043e\u0441\u0442\u043e \u0438\u0441\u0447\u0435\u0437\u0430\u0435\u0442.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0423\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e<\/p>\n<\/th>\n<th>\n<p align=\"left\">Flash<\/p>\n<\/th>\n<th>\n<p align=\"left\">L1 \u043a\u044d\u0448<\/p>\n<\/th>\n<th>\n<p align=\"left\">FPU<\/p>\n<\/th>\n<th>\n<p align=\"left\">GraphKAN \u0432\u043b\u0435\u0437\u0430\u0435\u0442?<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">ARM Cortex-M0+ (STM32G0, $0.50)<\/p>\n<\/td>\n<td>\n<p align=\"left\">16-64 \u041a\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">&#8212;<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\u0435\u0442<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u2705 \u0446\u0435\u043b\u0438\u043a\u043e\u043c<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">ARM Cortex-M4 (STM32F4)<\/p>\n<\/td>\n<td>\n<p align=\"left\">512 \u041a\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">16 \u041a\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0435\u0441\u0442\u044c<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u2705 \u0432 L1<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">ARM Cortex-M7 (STM32H7)<\/p>\n<\/td>\n<td>\n<p align=\"left\">2 \u041c\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">64 \u041a\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0435\u0441\u0442\u044c<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u2705 \u0432 L1<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RISC-V (GD32V)<\/p>\n<\/td>\n<td>\n<p align=\"left\">32 \u041a\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">&#8212;<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\u0435\u0442<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u2705<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">ESP32-S3<\/p>\n<\/td>\n<td>\n<p align=\"left\">384 \u041a\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">16 \u041a\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\u0435\u0442<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u2705 \u0432 L1<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Arduino Nano RP2040<\/p>\n<\/td>\n<td>\n<p align=\"left\">264 \u041a\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">&#8212;<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\u0435\u0442<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u2705<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0418 \u0433\u043b\u0430\u0432\u043d\u043e\u0435: \u0442\u0435\u0440\u043d\u0430\u0440\u043d\u044b\u0435 \u0432\u0435\u0441\u0430 \u0437\u0430\u043c\u0435\u043d\u044f\u044e\u0442 \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0435 \u043d\u0430 \u0443\u0441\u043b\u043e\u0432\u043d\u043e\u0435 \u0441\u043b\u043e\u0436\u0435\u043d\u0438\u0435\/\u0432\u044b\u0447\u0438\u0442\u0430\u043d\u0438\u0435\/\u043f\u0440\u043e\u043f\u0443\u0441\u043a &#8212; \u0434\u0432\u0430-\u0442\u0440\u0438 \u0442\u0430\u043a\u0442\u0430 \u043f\u0440\u043e\u0442\u0438\u0432 15-20 \u043d\u0430 float32. \u041d\u0438\u043a\u0430\u043a\u043e\u0433\u043e FPU, \u043d\u0438\u043a\u0430\u043a\u0438\u0445 DSP-\u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0439 &#8212; \u043d\u0430\u0444\u0438\u0433 \u043d\u0435 \u043d\u0443\u0436\u043d\u043e.<\/p>\n<hr\/>\n<h3>\u0413\u0434\u0435 \u044d\u0442\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u0442\u044c<\/h3>\n<p><strong>TinyML.<\/strong> \u0414\u0430\u0442\u0447\u0438\u043a \u0432\u0438\u0431\u0440\u0430\u0446\u0438\u0438 \u043d\u0430 STM32G0 \u0437\u0430 $0.50 \u0441 \u0431\u0430\u0442\u0430\u0440\u0435\u0439\u043a\u043e\u0439 CR2032 \u043d\u0430 5 \u043b\u0435\u0442. GraphKAN \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u043f\u043e\u043b\u043e\u043c\u043a\u0443 \u043f\u043e\u0434\u0448\u0438\u043f\u043d\u0438\u043a\u0430. \u0411\u0435\u0437 Wi-Fi, \u0431\u0435\u0437 \u043e\u0431\u043b\u0430\u043a\u0430 &#8212; \u0432\u0441\u0451 \u043d\u0430 \u043c\u0435\u0441\u0442\u0435.<\/p>\n<p><strong>\u0423\u043c\u043d\u044b\u0435 \u0447\u0430\u0441\u044b.<\/strong> \u0410\u043d\u0430\u043b\u0438\u0437 \u042d\u041a\u0413 \u043f\u0440\u044f\u043c\u043e \u043d\u0430 \u0447\u0438\u043f\u0435, \u0431\u0435\u0437 Bluetooth \u043d\u0430 \u0442\u0435\u043b\u0435\u0444\u043e\u043d. \u041c\u0435\u0434\u0438\u0446\u0438\u043d\u0441\u043a\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u043f\u043e\u043a\u0438\u0434\u0430\u044e\u0442 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e.<\/p>\n<p><strong>LoRa-\u0441\u0435\u043d\u0441\u043e\u0440\u044b.<\/strong> 15 \u041a\u0411 &#8212; \u0440\u0430\u0437\u043c\u0435\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u043e\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u0434\u0430\u0442\u044c \u043f\u043e \u0440\u0430\u0434\u0438\u043e \u0437\u0430 \u043f\u0430\u0440\u0443 \u0441\u0435\u043a\u0443\u043d\u0434. \u0410\u0440\u0434\u0443\u0438\u043d\u043e \u0441 \u043a\u0430\u043c\u0435\u0440\u043e\u0439 &#8212; \u0441\u043d\u0438\u043c\u043e\u043a, GraphKAN, \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442. \u0412\u0441\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e.<\/p>\n<p><strong>Edge AI \u0431\u0435\u0437 GPU.<\/strong> \u0413\u0440\u0430\u0444\u043e\u0432\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u043d\u0435\u0439\u0440\u043e\u043d \u043d\u0430 \u043d\u043e\u0432\u044b\u0439 \u0441\u0435\u043d\u0441\u043e\u0440 \u0431\u0435\u0437 \u043f\u0435\u0440\u0435\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u0441\u0435\u0442\u0438 &#8212; \u0434\u043b\u044f IoT \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f\u043c\u0438 \u0434\u0430\u0442\u0447\u0438\u043a\u043e\u0432 \u044d\u0442\u043e gold.<\/p>\n<p><strong>\u041e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435.<\/strong> 15 \u041a\u0411 &#8212; \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u043e\u0436\u043d\u043e \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c \u043f\u043e\u0431\u0430\u0439\u0442\u043e\u0432\u043e. \u041f\u043e\u043d\u044f\u0442\u044c, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c, \u043d\u0435 \u0438\u043c\u0435\u044f GPU.<\/p>\n<hr\/>\n<h3>\u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f (\u0447\u0435\u0441\u0442\u043d\u043e)<\/h3>\n<p>\u041d\u0435 \u0445\u043e\u0447\u0443, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u0441\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b \u043a\u0430\u043a \u201c\u043c\u044b \u0432\u0441\u0435\u0445 \u043f\u043e\u0431\u0435\u0434\u0438\u043b\u0438, patent pending\u201d. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0447\u0435\u0441\u0442\u043d\u043e.<\/p>\n<p><strong>CIFAR-10: 47.83%.<\/strong> KAN \u0432 \u0441\u0432\u043e\u0435\u0439 \u0431\u0430\u0437\u043e\u0432\u043e\u0439 \u0444\u043e\u0440\u043c\u0435 \u043d\u0435 \u0442\u044f\u043d\u0435\u0442 \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f. \u0414\u043b\u044f 32&#215;32 \u0446\u0432\u0435\u0442\u043d\u044b\u0445 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a \u043d\u0443\u0436\u043d\u0430 \u0441\u0432\u0435\u0440\u0442\u043e\u0447\u043d\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430. \u0412\u043e\u0442 \u0442\u0443\u0442 \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430: piecewise-linear \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0445\u0443\u0436\u0435 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u043d\u0430 \u0432\u044b\u0441\u043e\u043a\u043e\u0440\u0430\u0437\u043c\u0435\u0440\u043d\u044b\u0435 \u0432\u0445\u043e\u0434\u044b, \u0447\u0435\u043c \u0441\u0432\u0435\u0440\u0442\u043a\u0438.<\/p>\n<p><strong>MNIST 96.15% &#8212; \u044d\u0442\u043e \u043d\u0435 SOTA.<\/strong> SOTA \u043d\u0430 MNIST &#8212; 99.8%+ (Ensemble CNN). \u041d\u043e SOTA \u0442\u0440\u0435\u0431\u0443\u0435\u0442 ~10+ \u041c\u0411 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 GPU \u0434\u043b\u044f \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430. 96.15% \u043f\u0440\u0438 15 \u041a\u0411 &#8212; \u044d\u0442\u043e <em>\u0434\u0440\u0443\u0433\u043e\u0439 \u043a\u043b\u0430\u0441\u0441 \u0437\u0430\u0434\u0430\u0447<\/em>: TinyML, \u0433\u0434\u0435 \u043d\u0435\u0442 \u043c\u0435\u0433\u0430\u0431\u0430\u0439\u0442 \u0438 \u043d\u0435\u0442 GPU. \u0421\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u044d\u0442\u0438 \u0446\u0438\u0444\u0440\u044b \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e &#8212; \u043a\u0430\u043a \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c Formula-1 \u0438 \u0432\u0435\u0437\u0434\u0435\u0445\u043e\u0434\u0430. \u0420\u0430\u0437\u043d\u044b\u0435 \u0442\u0440\u0430\u0441\u0441\u044b.<\/p>\n<p><strong>\u0413\u0440\u0430\u0444 \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432\u0440\u0443\u0447\u043d\u0443\u044e.<\/strong> \u0422\u043e\u043f\u043e\u043b\u043e\u0433\u0438\u044f (\u043a\u0442\u043e \u0441 \u043a\u0435\u043c \u0441\u043e\u0435\u0434\u0438\u043d\u0451\u043d) \u043d\u0435 \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f &#8212; \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0434\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0422\u0443\u0442 \u043d\u0435\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f adjacency matrix, \u043a\u0430\u043a \u0432 graph neural network. \u0413\u0440\u0430\u0444, \u043d\u043e \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u0430 \u0434\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/p>\n<p><strong>\u0423\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0435 \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u043d\u0443\u0436\u043d\u043e \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 training.<\/strong> \u0422\u0435\u0440\u043d\u0430\u0440\u043d\u043e\u0441\u0442\u044c &#8212; \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043b\u044f inference. Training \u0438\u0434\u0435\u0442 \u0432 float \u0441 STE.<\/p>\n<hr\/>\n<h3>\u042d\u043f\u0438\u043b\u043e\u0433: \u043f\u043e\u0447\u0435\u043c\u0443 15 \u041a\u0411 \u0432\u0430\u0436\u043d\u0435\u0435, \u0447\u0435\u043c 99% accuracy<\/h3>\n<p>\u041b\u043e\u0433\u0438\u0447\u043d\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441: \u0430 \u043f\u043e\u0447\u0435\u043c\u0443 \u0431\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435 \u0432\u0437\u044f\u0442\u044c CNN \u0438 \u043d\u0435 \u0441\u0436\u0430\u0442\u044c \u0435\u0435 \u0434\u043e 15 \u041a\u0411?<\/p>\n<p>\u041e\u0442\u0432\u0435\u0442: \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u0439\u0442\u0435.<\/p>\n<p>\u0412\u043e\u0437\u044c\u043c\u0438\u0442\u0435 ResNet-18 (44 MB), \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0443\u0439\u0442\u0435 \u0434\u043e 2 \u0431\u0438\u0442 &#8212; \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0435 ~2.75 MB. \u041d\u0435 15 \u041a\u0411. Mobilenet (4 MB) &#8212; ~500 \u041a\u0411. \u0412\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u043d\u0435 15 \u041a\u0411.<\/p>\n<p>\u0427\u0442\u043e\u0431\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c 15 \u041a\u0411, \u043d\u0443\u0436\u043d\u043e \u043b\u0438\u0431\u043e \u0440\u0435\u0437\u0430\u0442\u044c \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 \u0434\u043e \u043d\u0435\u043f\u0440\u0438\u043b\u0438\u0447\u0438\u044f (\u043e\u0434\u0438\u043d \u0441\u043b\u043e\u0439, 10 \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 &#8212; \u0438 60% accuracy), \u043b\u0438\u0431\u043e \u043c\u0435\u043d\u044f\u0442\u044c \u0441\u0430\u043c\u0443 \u043f\u0430\u0440\u0430\u0434\u0438\u0433\u043c\u0443.<\/p>\n<p>\u0412 \u043e\u0431\u0449\u0435\u043c, GraphKAN \u043c\u0435\u043d\u044f\u0435\u0442 \u043f\u0430\u0440\u0430\u0434\u0438\u0433\u043c\u0443: \u0432\u0435\u0441 &#8212; \u044d\u0442\u043e \u043d\u0435 \u0447\u0438\u0441\u043b\u043e \u0434\u043b\u044f \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u044f, \u0430 \u043e\u0434\u0438\u043d \u0438\u0437 \u0442\u0440\u0435\u0445 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432. \u041f\u0440\u043e\u043f\u0443\u0441\u0442\u0438\u0442\u044c, \u0438\u043d\u0432\u0435\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0438\u043b\u0438 \u0437\u0430\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u0430\u0442\u044c &#8212; \u0438 \u0432\u0441\u0451.<\/p>\n<p>\u042d\u0442\u043e \u0443\u0436\u0435 \u043d\u0435 \u0441\u043e\u0432\u0441\u0435\u043c \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u0432 \u043f\u0440\u0438\u0432\u044b\u0447\u043d\u043e\u043c \u0441\u043c\u044b\u0441\u043b\u0435. \u041f\u043e \u0434\u0443\u0445\u0443 \u043e\u043d\u043e \u0431\u043b\u0438\u0436\u0435 \u043a <strong>\u043a\u043e\u043d\u0435\u0447\u043d\u043e\u043c\u0443 \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0443 \u0441 \u043e\u0431\u0443\u0447\u0430\u0435\u043c\u044b\u043c\u0438 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0430\u043c\u0438<\/strong>, \u0433\u0434\u0435 \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0435\u0440\u0435\u0445\u043e\u0434 &#8212; {-1, 0, +1}. \u0418 \u044d\u0442\u043e\u0442 \u0430\u0432\u0442\u043e\u043c\u0430\u0442 \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c \u0441 \u0442\u0440\u0438 JPEG-\u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u0443\u0433\u0430\u0434\u044b\u0432\u0430\u0435\u0442 \u0446\u0438\u0444\u0440\u044b \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e 96%.<\/p>\n<p>\u0414\u0435\u043b\u043e \u043d\u0435 \u0432 \u0440\u0435\u043a\u043e\u0440\u0434\u0430\u0445. SOTA \u0431\u0443\u0434\u0435\u0442 \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u043a\u0430\u0436\u0434\u044b\u0435 \u043f\u043e\u043b\u0433\u043e\u0434\u0430 &#8212; \u0434\u0430 \u0438 \u043f\u043e\u0444\u0438\u0433. \u0410 15 \u041a\u0411 &#8212; \u044d\u0442\u043e \u043f\u043e\u0440\u043e\u0433, \u043f\u043e\u0441\u043b\u0435 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0436\u0435 \u043d\u0435 \u00ab\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c\u00bb, \u0430 <em>\u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u0447\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f<\/em>.<\/p>\n<p>\u041d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u043d\u0435 \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043c\u0438\u043a\u0440\u043e\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u043b\u0435\u0440 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e &#8212; \u043e\u043d\u0430 <em>\u043a\u043e\u043c\u043f\u0438\u043b\u0438\u0440\u0443\u0435\u0442\u0441\u044f<\/em> \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u043f\u0440\u043e\u0448\u0438\u0432\u043a\u043e\u0439. \u041e\u0434\u043d\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043d\u0430 \u043e\u0434\u043d\u0443 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0443 &#8212; \u0438 \u043d\u0438\u043a\u0430\u043a\u0438\u0445 \u0442\u0435\u0431\u0435 DMA, \u0432\u043d\u0435\u0448\u043d\u0438\u0445 flash \u0438\u043b\u0438 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u043e\u0432.<\/p>\n<p>15 \u041a\u0411 &#8212; \u044d\u0442\u043e \u0440\u0430\u0437\u043c\u0435\u0440 \u043d\u0435 \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n<p>\u042d\u0442\u043e \u0440\u0430\u0437\u043c\u0435\u0440 <strong>\u0440\u0435\u0448\u0435\u043d\u0438\u044f<\/strong>.<\/p>\n<hr\/>\n<p><strong>\u0421\u0441\u044b\u043b\u043a\u0438:<\/strong><\/p>\n<ul>\n<li>\n<p>GitHub: <a href=\"https:\/\/github.com\/Fakeonomics\/graphkan-overview\" rel=\"noopener noreferrer nofollow\">github.com\/Fakeonomics\/graphkan-overview<\/a><\/p>\n<\/li>\n<li>\n<p>DOI: <a href=\"https:\/\/doi.org\/10.5281\/zenodo.20725230\" rel=\"noopener noreferrer nofollow\">10.5281\/zenodo.20725230<\/a><\/p>\n<\/li>\n<li>\n<p>Live: <a href=\"https:\/\/fakeonomics.github.io\/graphkan-overview\/\" rel=\"noopener noreferrer nofollow\">fakeonomics.github.io\/graphkan-overview<\/a><\/p>\n<\/li>\n<\/ul>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1049822\/\">https:\/\/habr.com\/ru\/articles\/1049822\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u0412\u0441\u0442\u0443\u043f\u043b\u0435\u043d\u0438\u0435: \u0437\u0430\u0447\u0435\u043c \u043b\u0435\u0437\u0442\u044c \u0432 KAN\u042d\u0442\u043e \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435 \u043f\u043e\u0441\u0442\u0430 \u201c\u0414\u0432\u0435 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u043f\u043e 15 \u041a\u0411\u201d &#8212; \u0442\u0430\u043c \u0431\u044b\u043b\u0438 \u0431\u0430\u0437\u043e\u0432\u044b\u0435 \u0446\u0438\u0444\u0440\u044b. \u0410 \u0442\u0443\u0442 \u0443\u0436\u0435 \u043b\u0438\u0447\u043d\u0430\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f: \u043a\u0430\u043a \u0434\u0435\u043b\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u043f\u043e\u0448\u043b\u043e \u043d\u0435 \u0442\u0430\u043a, \u0438 \u0447\u0442\u043e \u0432\u044b\u044f\u0441\u043d\u0438\u043b\u043e\u0441\u044c \u043f\u043e \u043f\u0443\u0442\u0438.\u041c\u0430\u0439 2024 \u0433\u043e\u0434\u0430. \u0412\u044b\u0445\u043e\u0434\u0438\u0442 \u0441\u0442\u0430\u0442\u044c\u044f \u201cKAN: Kolmogorov-Arnold Networks\u201d. \u0418 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0442\u043e, \u0447\u0442\u043e \u0431\u044b\u0432\u0430\u0435\u0442 \u0440\u0430\u0437 \u0432 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043b\u0435\u0442 &#8212; \u043a\u0442\u043e-\u0442\u043e \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u0442 \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u0443 MLP.\u041d\u0435 \u043c\u043e\u0434\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044e \u0438 \u043d\u0435 \u043b\u0430\u0439\u0444\u0445\u0430\u043a &#8212; \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u0443.\u0412 MLP \u043a\u0430\u0436\u0434\u044b\u0439 \u043d\u0435\u0439\u0440\u043e\u043d \u0434\u0435\u043b\u0430\u0435\u0442 weight \u00d7 input + bias, \u0438 \u0432\u0441\u0435 80 \u043b\u0435\u0442 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f &#8212; \u044d\u0442\u043e \u0432\u0430\u0440\u0438\u0430\u0446\u0438\u0438 \u043d\u0430 \u0442\u0435\u043c\u0443 \u201c\u043a\u0430\u043a \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u044d\u0442\u043e\u0442 \u0432\u0435\u0441 \u0442\u043e\u0447\u043d\u0435\u0435, \u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u0440\u0430\u0437\u0440\u0435\u0436\u0435\u043d\u043d\u0435\u0435\u201d. KAN \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u0442 \u0434\u0440\u0443\u0433\u043e\u0435: \u0437\u0430\u043c\u0435\u043d\u0438\u0442\u044c \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 \u0432\u0435\u0441 \u043d\u0430 \u043e\u0431\u0443\u0447\u0430\u0435\u043c\u0443\u044e \u0444\u0443\u043d\u043a\u0446\u0438\u044e. \u0412\u0440\u043e\u0434\u0435 \u043c\u0435\u043b\u043a\u0438\u0439 \u0442\u0440\u044e\u043a, \u0430 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 &#8212; \u043c\u0435\u043d\u044c\u0448\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043f\u0440\u0438 \u0442\u043e\u0439 \u0436\u0435 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u0438 \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u0430\u044f \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u0443\u0435\u043c\u043e\u0441\u0442\u044c.\u041a 2026 \u0433\u043e\u0434\u0443 \u0443\u0436\u0435 \u043f\u043e\u044f\u0432\u0438\u043b\u0438\u0441\u044c QuantKAN (4-\u0431\u0438\u0442\u043d\u043e\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435), KANtize (2-3-\u0431\u0438\u0442\u043d\u044b\u0435 B-spline \u0442\u0430\u0431\u043b\u0438\u0446\u044b), BiKA (\u0430\u043f\u043f\u0430\u0440\u0430\u0442\u043d\u044b\u0439 \u0430\u043a\u0441\u0435\u043b\u0435\u0440\u0430\u0442\u043e\u0440, \u0432\u0434\u043e\u0445\u043d\u043e\u0432\u043b\u0435\u043d\u043d\u044b\u0439 KAN). \u0418 \u0432\u0441\u0435 \u043e\u043d\u0438, \u043f\u043e \u0441\u0443\u0442\u0438, \u043f\u0440\u043e \u043e\u0434\u043d\u043e &#8212; \u0441\u0434\u0435\u043b\u0430\u0442\u044c KAN \u043c\u0435\u043d\u044c\u0448\u0435, \u0447\u0442\u043e\u0431 \u0440\u0430\u0431\u043e\u0442\u0430\u043b \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 GPU.\u0413\u0440\u0430\u043d\u0438\u0446\u0430 \u0432 \u0442\u0440\u0438 \u0431\u0438\u0442\u0430 &#8212; \u043e\u043d\u0430 \u0436\u0435 \u043f\u0441\u0438\u0445\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0430\u044f. \u041d\u0438\u0436\u0435 4 \u0431\u0438\u0442 \u0443 \u0432\u0441\u0435\u0445 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u00ab\u0430 \u0432\u0434\u0440\u0443\u0433 \u0432\u0441\u0451 \u0441\u043b\u043e\u043c\u0430\u0435\u0442\u0441\u044f\u00bb. \u0418 \u0437\u043d\u0430\u0435\u0442\u0435 \u0447\u0442\u043e? \u041e\u0431\u044b\u0447\u043d\u043e \u0442\u0430\u043a \u0438 \u0435\u0441\u0442\u044c. \u041b\u044e\u0431\u043e\u0439, \u043a\u0442\u043e \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043b \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u0432 2 \u0431\u0438\u0442\u0430, \u0437\u043d\u0430\u0435\u0442: \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u0434\u0430\u0435\u0442. \u041d\u0435 \u0447\u0443\u0442\u044c-\u0447\u0443\u0442\u044c &#8212; \u043a\u0430\u0442\u0430\u0441\u0442\u0440\u043e\u0444\u0438\u0447\u0435\u0441\u043a\u0438.\u041d\u043e {-1, 0, +1} &#8212; \u044d\u0442\u043e \u0434\u0430\u0436\u0435 \u043d\u0435 \u0434\u0432\u0430 \u0431\u0438\u0442\u0430, \u044d\u0442\u043e log\u2082(3) \u2248 1.58 \u0431\u0438\u0442\u0430. \u0424\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e &#8212; \u043c\u0435\u0436\u0434\u0443 binary \u0438 ternary, \u0430 \u043f\u043e \u043e\u0449\u0443\u0449\u0435\u043d\u0438\u044f\u043c &#8212; \u0447\u0438\u0441\u0442\u043e\u0435 \u0431\u0435\u0437\u0443\u043c\u0438\u0435.\u041d\u0443 \u044f \u0438 \u0440\u0435\u0448\u0438\u043b \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c.\u041a\u0430\u043a \u044f \u0441\u043b\u043e\u043c\u0430\u043b \u043f\u0440\u0430\u0432\u0438\u043b\u043e \u201c\u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 \u0443\u0431\u0438\u0432\u0430\u0435\u0442 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u201d\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b \u0442\u0430\u043a: \u0431\u0435\u0440\u0435\u043c GraphKAN &#8212; \u043c\u043e\u044e \u0433\u0440\u0430\u0444\u043e\u0432\u0443\u044e \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e KAN, \u0433\u0434\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u044b \u0441\u043e\u0435\u0434\u0438\u043d\u0435\u043d\u044b \u043d\u0435 \u0441\u043b\u043e\u044f\u043c\u0438, \u0430 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u043b\u044c\u043d\u044b\u043c\u0438 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u043c\u0438 \u0441\u0432\u044f\u0437\u044f\u043c\u0438. \u041e\u0431\u0443\u0447\u0430\u0435\u043c \u0432 float, \u043f\u043e\u0442\u043e\u043c \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0438\u043c \u0432\u0435\u0441\u0430 \u0432 {-1, 0, +1} \u0447\u0435\u0440\u0435\u0437 Straight-Through Estimator. \u041f\u043e\u0442\u043e\u043c &#8212; hard clamp. \u041f\u043e\u0442\u043e\u043c &#8212; \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0442\u043e\u043b\u044c\u043a\u043e scale \u0438 bias.\u0427\u0435\u0442\u044b\u0440\u0435 \u0444\u0430\u0437\u044b, \u043d\u0438\u043a\u0430\u043a\u043e\u0439 \u043c\u0430\u0433\u0438\u0438.\u041e\u0436\u0438\u0434\u0430\u043b \u0443\u0432\u0438\u0434\u0435\u0442\u044c \u043f\u0430\u0434\u0435\u043d\u0438\u0435 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043d\u0430 5-10 \u043f\u0443\u043d\u043a\u0442\u043e\u0432. \u0414\u043e 85-88%. \u041d\u0443 \u043d\u043e\u0440\u043c: 15 \u041a\u0411 \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0445\u043e\u0442\u044c \u0447\u0442\u043e-\u0442\u043e \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0451\u0442 \u043d\u0430 MNIST, &#8212; \u0443\u0436\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442.\u041d\u043e \u043d\u0430 \u043f\u044f\u0442\u043e\u0439 \u044d\u043f\u043e\u0445\u0435 float \u044f \u043f\u043e\u043b\u0443\u0447\u0438\u043b 94.77%. \u041d\u0438\u0447\u0435\u0433\u043e \u0432\u044b\u0434\u0430\u044e\u0449\u0435\u0433\u043e\u0441\u044f \u0434\u043b\u044f \u043f\u043e\u043b\u043d\u043e\u0441\u0432\u044f\u0437\u043d\u043e\u0439 \u0441\u0435\u0442\u0438, \u043d\u043e KAN \u0435\u0441\u0442\u044c KAN.\u0414\u0430\u043b\u044c\u0448\u0435 &#8212; STE ternary, \u0438 \u0442\u0443\u0442 \u0441\u0447\u0451\u0442\u0447\u0438\u043a \u043f\u043e\u043a\u0430\u0437\u0430\u043b 95.78%.\u042f \u043f\u0435\u0440\u0435\u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b &#8212; \u0438 \u0435\u0449\u0451 \u0440\u0430\u0437. Hard clamp \u0434\u0430\u043b 96.09%, finetune &#8212; 96.15%.\u0427\u0435\u0442\u044b\u0440\u0435 \u0444\u0430\u0437\u044b, \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0440\u0430\u0441\u0442\u0435\u0442 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0443. Float \u2192 STE \u2192 clamp \u2192 finetune &#8212; \u0438 \u0432\u043c\u0435\u0441\u0442\u043e \u043f\u043e\u0442\u0435\u0440\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u044f \u043f\u043e\u043b\u0443\u0447\u0438\u043b \u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u0432 +1.38 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043d\u044b\u0445 \u043f\u0443\u043d\u043a\u0442\u0430.\u042f \u043f\u043e\u043b\u0435\u0437 \u0433\u0443\u0433\u043b\u0438\u0442\u044c, \u0435\u0441\u0442\u044c \u043b\u0438 \u0443 \u043a\u043e\u0433\u043e-\u0442\u043e \u0442\u0430\u043a\u043e\u0435. QuantKAN, KANtize, BiKA &#8212; \u0443 \u0432\u0441\u0435\u0445 \u00abnegligible accuracy loss\u00bb. \u0422\u043e \u0435\u0441\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u043e \u00ab\u043d\u0443 \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u043f\u043e\u0442\u0435\u0440\u044f\u043b\u0438\u00bb. \u0410 \u0443 \u043c\u0435\u043d\u044f \u0432\u0435\u0434\u044c &#8212; \u0432\u044b\u0438\u0433\u0440\u044b\u0448. \u0421\u0440\u0435\u0434\u0438 \u0441\u0442\u0430\u0442\u0435\u0439 \u043f\u043e KAN \u044f \u0442\u0430\u043a\u043e\u0433\u043e \u043d\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u043b.\u042f \u043f\u0435\u0440\u0435\u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b \u0442\u0440\u0438 \u0440\u0430\u0437\u0430 \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 seed. \u042d\u0444\u0444\u0435\u043a\u0442 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u044b\u0439.\u041f\u043e\u0447\u0435\u043c\u0443 \u0442\u0430\u043a \u0432\u044b\u0448\u043b\u043e &#8212; \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u0430\u0422\u0435\u0440\u043d\u0430\u0440\u043d\u044b\u0439 \u0432\u0435\u0441 &#8212; \u044d\u0442\u043e \u0432\u0435\u043d\u0442\u0438\u043b\u044c: \u043f\u0440\u043e\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u0441\u0438\u0433\u043d\u0430\u043b \u043a\u0430\u043a \u0435\u0441\u0442\u044c (+1), \u0438\u043d\u0432\u0435\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c (-1) \u0438\u043b\u0438 \u0437\u0430\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u0430\u0442\u044c (0). \u041d\u0438\u043a\u0430\u043a\u0438\u0445 \u0442\u043e\u043d\u043a\u0438\u0445 \u043d\u0430\u0441\u0442\u0440\u043e\u0435\u043a, \u043d\u0438\u043a\u0430\u043a\u0438\u0445 0.0037, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u043d\u043e\u0441\u044f\u0442 \u0448\u0443\u043c, \u043d\u043e \u0444\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e \u0441\u0447\u0438\u0442\u0430\u044e\u0442\u0441\u044f \u201c\u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0435\u0439\u201d.\u041a\u043e\u0433\u0434\u0430 \u0440\u0435\u0436\u0435\u0448\u044c \u0432\u0435\u0441 \u0434\u043e \u0442\u0440\u0435\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439, \u0442\u044b \u0440\u0435\u0436\u0435\u0448\u044c \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0432\u0435\u0441\u0430 &#8212; \u0442\u044b \u0440\u0435\u0436\u0435\u0448\u044c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0433\u0438\u043f\u043e\u0442\u0435\u0437. \u041c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u0443\u0447\u0438\u0442\u044c \u0448\u0443\u043c\u043e\u0432\u044b\u0435 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0438, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u043d\u0443\u0436\u043d\u044b \u0442\u043e\u0447\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f. \u0412 \u0442\u0435\u0440\u043d\u0430\u0440\u043d\u043e\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u0448\u0443\u043c \u0444\u0438\u043b\u044c\u0442\u0440\u0443\u0435\u0442\u0441\u044f \u043e\u043a\u0440\u0443\u0433\u043b\u0435\u043d\u0438\u0435\u043c \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 backward &#8212; \u043c\u0435\u043b\u043a\u0438\u0435 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435 \u043f\u0440\u043e\u0431\u0438\u0432\u0430\u044e\u0442 \u043f\u043e\u0440\u043e\u0433.\u041a\u043e\u0440\u043e\u0447\u0435 \u0433\u043e\u0432\u043e\u0440\u044f, \u044d\u0444\u0444\u0435\u043a\u0442 \u0442\u0430\u043a\u043e\u0439: \u0432\u0435\u0441\u0430, \u0437\u0430\u0436\u0430\u0442\u044b\u0435 \u0442\u0440\u0435\u043c\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438, \u0441\u0430\u043c\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043a\u0430\u043a \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0442\u043e\u0440. \u0414\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u043e\u0441\u0442\u044c \u043d\u0435 \u0434\u0430\u0451\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f &#8212; \u0431\u0430\u043d\u0430\u043b\u044c\u043d\u043e \u043d\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u00ab\u0440\u0430\u0437\u0440\u0435\u0448\u0435\u043d\u0438\u044f\u00bb \u0432\u0435\u0441\u0430, \u0447\u0442\u043e\u0431\u044b \u0437\u0430\u043f\u043e\u043c\u043d\u0438\u0442\u044c \u0448\u0443\u043c. \u0412 \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u0435 \u043f\u043e KAN \u044f \u0442\u0430\u043a\u043e\u0433\u043e \u043d\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u043b.\u041d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 split \u043d\u0430 \u0447\u0435\u0442\u044b\u0440\u0435 \u0448\u0430\u0433\u0430. \u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u0442\u0443\u043f\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u0435\u043c \u0432\u0435\u0441\u0430 \u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d\u043e\u043c [-1, 1] &#8212; \u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0438 \u043d\u0435 \u0440\u0430\u0437\u043b\u0435\u0442\u0435\u043b\u0438\u0441\u044c. \u041f\u043e\u0442\u043e\u043c \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0430\u0435\u043c STE: \u043d\u0430 \u043f\u0440\u044f\u043c\u043e\u043c \u043f\u0440\u043e\u0445\u043e\u0434\u0435 \u0432\u0435\u0441\u0430 \u0443\u0436\u0435 \u0442\u0435\u0440\u043d\u0430\u0440\u043d\u044b\u0435, \u0430 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b \u0441\u0447\u0438\u0442\u0430\u0435\u043c \u043a\u0430\u043a \u0431\u0443\u0434\u0442\u043e \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u043e\u0441\u044c. \u0414\u0430\u043b\u044c\u0448\u0435 &#8212; \u043f\u0440\u0438\u043d\u0443\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u0444\u0438\u043a\u0441\u0430\u0446\u0438\u044f: \u043a\u0430\u0436\u0434\u044b\u0439 \u0432\u0435\u0441 \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0440\u043e\u0432\u043d\u043e -1, 0 \u0438\u043b\u0438 +1. \u0418 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0448\u0430\u0433 &#8212; \u0434\u043e\u043e\u0431\u0443\u0447\u0430\u0435\u043c \u0442\u043e\u043b\u044c\u043a\u043e \u043c\u0430\u0441\u0448\u0442\u0430\u0431 \u0438 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435, \u0432\u0435\u0441\u0430 \u0437\u0430\u043c\u043e\u0440\u043e\u0436\u0435\u043d\u044b.\u041a\u0430\u0436\u0434\u0430\u044f \u0444\u0430\u0437\u0430 \u0430\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u0435\u0435 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0439 &#8212; \u0438 \u043a\u0430\u0436\u0434\u0430\u044f \u0434\u0430\u0451\u0442 \u043f\u0440\u0438\u0440\u043e\u0441\u0442. \u0415\u0441\u043b\u0438 \u0431\u044b \u043c\u043d\u0435 \u043a\u0442\u043e-\u0442\u043e \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u043b \u0442\u0430\u043a\u043e\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0434\u043e \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430, \u044f \u0431\u044b \u043d\u0435 \u043f\u043e\u0432\u0435\u0440\u0438\u043b.\u0427\u0442\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c: \u0442\u0430\u0431\u043b\u0438\u0446\u0430\u041c\u043e\u0434\u0435\u043b\u044c\u0412\u0435\u0441\u0430\u0420\u0430\u0437\u043c\u0435\u0440MNISTFashion-MNISTGraphKAN 256\u2192100\u219210float~15 \u041a\u041194.77%84.1%GraphKAN 256\u2192100\u219210{-1,0,+1}~15 \u041a\u041196.15%86.68%MLP 256\u2192100\u219210float~107 \u041a\u0411~93%-MLP \u0432 7 \u0440\u0430\u0437 \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0443 &#8212; \u0438 \u043d\u0430 3 \u043f\u0443\u043d\u043a\u0442\u0430 \u0445\u0443\u0436\u0435 \u043f\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438. \u042f \u043d\u0435 \u043f\u0440\u043e \u0442\u043e, \u0447\u0442\u043e \u043c\u044b \u043f\u043e\u0431\u0435\u0434\u0438\u043b\u0438 SOTA &#8212; \u043f\u0440\u043e\u0441\u0442\u043e KAN \u0441 \u0442\u0435\u0440\u043d\u0430\u0440\u043d\u044b\u043c\u0438 \u0432\u0435\u0441\u0430\u043c\u0438 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u0435\u0435 \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e MLP \u043f\u0440\u0438 \u0442\u0435\u0445 \u0436\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u0430\u0445 \u0438 \u0432 7 \u0440\u0430\u0437 \u043c\u0435\u043d\u044c\u0448\u0435\u043c \u043e\u0431\u044a\u0435\u043c\u0435.\u041f\u044f\u0442\u044c \u0434\u043e\u043c\u0435\u043d\u043e\u0432\u041f\u0440\u043e\u0432\u0435\u0440\u044f\u043b \u043d\u0430 \u0432\u0441\u0435\u043c, \u0447\u0442\u043e \u043f\u043e\u0434\u0432\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u043b\u043e\u0441\u044c \u043f\u043e\u0434 \u0440\u0443\u043a\u0443:MNIST &#8212; 96.15%. \u0426\u0438\u0444\u0440\u044b, \u043a\u043b\u0430\u0441\u0441\u0438\u043a\u0430.Fashion-MNIST &#8212; 86.68%. \u041e\u0434\u0435\u0436\u0434\u0430, \u0441\u043b\u043e\u0436\u043d\u0435\u0435 \u0446\u0438\u0444\u0440 &#8212; \u043d\u043e \u0442\u0435\u0440\u043d\u0430\u0440\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u0431\u044c\u0435\u0442 float.HAR (Human Activity Recognition) &#8212; \u0430\u043a\u0441\u0435\u043b\u0435\u0440\u043e\u043c\u0435\u0442\u0440\u044b \u0441 \u0442\u0435\u043b\u0435\u0444\u043e\u043d\u0430. \u0422\u0435\u0440\u043d\u0430\u0440\u043d\u044b\u0439 KAN \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0440\u044f\u0434\u0430\u0445 \u0431\u0435\u0437 RNN.FSDD (Free Spoken Digit Dataset) &#8212; \u0430\u0443\u0434\u0438\u043e, \u0446\u0438\u0444\u0440\u044b \u0433\u043e\u043b\u043e\u0441\u043e\u043c. \u0420\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0435\u0442 \u0431\u0435\u0437 DSP-\u043f\u0440\u0435\u0434\u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438.CIFAR-10 &#8212; \u0442\u0443\u0442 \u0447\u0435\u0441\u0442\u043d\u043e: 47.83% \u043d\u0430 8&#215;8 \u0432\u0445\u043e\u0434\u0435. KAN \u0441 \u0442\u0430\u043a\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 \u043d\u0435 \u0442\u044f\u043d\u0435\u0442 \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u043a\u0430\u043a CNN &#8212; \u0434\u043b\u044f 32&#215;32 \u0432\u0445\u043e\u0434\u043e\u0432 \u043d\u0443\u0436\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0438\u043b\u0438 \u0441\u0432\u0435\u0440\u0442\u043e\u0447\u043d\u0430\u044f \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430.\u041d\u0430 \u0432\u0441\u0435\u0445 \u0434\u043e\u043c\u0435\u043d\u0430\u0445, \u043a\u0440\u043e\u043c\u0435 CIFAR, \u0442\u0435\u0440\u043d\u0430\u0440\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u043f\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043b\u0438\u0431\u043e \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u0435\u0442 \u0441 float, \u043b\u0438\u0431\u043e \u0431\u044c\u0435\u0442 \u0435\u0433\u043e.ELM-\u0440\u0435\u0436\u0438\u043c: 99.3% \u043e\u0442 full BP accuracy \u0431\u0435\u0437 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f\u0415\u0449\u0435 \u0448\u0442\u0443\u043a\u0430, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u044f \u043d\u0435 \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u043b \u0432 \u043f\u0440\u043e\u0448\u043b\u044b\u0439 \u0440\u0430\u0437 &#8212; GraphKAN \u0443\u043c\u0435\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0432 \u0440\u0435\u0436\u0438\u043c\u0435 Extreme Learning Machine.\u0421\u043b\u0443\u0447\u0430\u0439\u043d\u0430\u044f \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u2192 \u0437\u0430\u043c\u043e\u0440\u043e\u0437\u043a\u0430 \u2192 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0432\u0435\u0441\u0430 \u0447\u0435\u0440\u0435\u0437 Least Squares. \u041d\u0438\u043a\u0430\u043a\u043e\u0433\u043e backprop \u0447\u0435\u0440\u0435\u0437 \u0441\u043a\u0440\u044b\u0442\u044b\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u044b. \u041d\u0430 Fashion-MNIST \u044d\u0442\u043e \u0434\u0430\u043b\u043e 78.7% \u043f\u0440\u0438 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 500 &#8212; \u0442\u043e \u0435\u0441\u0442\u044c 99.3% \u043e\u0442 accuracy \u043f\u043e\u043b\u043d\u043e\u0433\u043e backprop (79.2%).\u0417\u0430\u0447\u0435\u043c \u044d\u0442\u043e \u043d\u0443\u0436\u043d\u043e? \u041d\u0443 \u0442\u0438\u043f\u0430 ELM-\u0440\u0435\u0436\u0438\u043c \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e piecewise-linear \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 KAN \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u0435\u0441\u0442\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0434\u0438\u0441\u043a\u0440\u0438\u043c\u0438\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438 \u0434\u0430\u0436\u0435 \u0438\u0437 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u0432\u0435\u0441\u043e\u0432. \u0414\u043b\u044f TinyML \u044d\u0442\u043e \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u043e: \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u0433\u0440\u0443\u0437\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u0437\u0430\u043c\u043e\u0440\u043e\u0437\u0438\u0442\u044c 99% \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0438 \u0434\u043e\u043e\u0431\u0443\u0447\u0430\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u0441\u043b\u043e\u0439 &#8212; \u043f\u0440\u044f\u043c\u043e \u043d\u0430 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0435.\u0420\u0430\u0437\u043c\u0435\u0440 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044fAccuracy% \u043e\u0442 BP\u0420\u0430\u0437\u043c\u0435\u0440 \u043c\u043e\u0434\u0435\u043b\u0438H=5074.5%94.1%3.7 \u041a\u0411H=10077.0%97.3%6.8 \u041a\u0411H=20077.7%98.1%14 \u041a\u0411H=50078.7%99.3%31.6 \u041a\u0411\u042d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 KAN\u042f \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b QAT-\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u043e\u0439 CNN (Conv2d + ReLU + MaxPool + FC). \u0422\u0435 \u0436\u0435 4 \u0444\u0430\u0437\u044b, \u0442\u0430 \u0436\u0435 gamma absorption. \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442:\u041a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044fFloatSTE ternaryTrue ternaryCNN (Fashion-MNIST)91.57%91.83%92.02%\u0413\u0440\u0430\u0444\u0438\u043a \u0441\u0436\u0430\u0442\u0438\u044f1x8x16x\u0422\u0435\u0440\u043d\u0430\u0440\u043d\u0430\u044f CNN \u043d\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u043b\u0430 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c &#8212; \u043e\u043d\u0430 \u0435\u0435 \u043f\u043e\u0432\u044b\u0441\u0438\u043b\u0430 \u043d\u0430 0.45 \u043f.\u043f. \u0422\u043e \u0435\u0441\u0442\u044c \u044d\u0444\u0444\u0435\u043a\u0442 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0438 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0438 \u043d\u0430 \u0434\u0440\u0443\u0433\u0438\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430\u0445, \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 KAN. \u041d\u0435 \u0441\u043e\u0448\u043b\u043e\u0441\u044c \u043d\u0430 \u043e\u0434\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438.\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0441 \u0442\u0435\u043c, \u0447\u0442\u043e \u0431\u044b\u043b\u043e \u0434\u043e\u0414\u043e \u043d\u0430\u0441 KAN \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043b\u0438 \u0432\u043e\u0442 \u043a\u0430\u043a:\u0420\u0430\u0431\u043e\u0442\u0430\u0411\u0438\u0442\u044b\u041c\u0435\u0442\u043e\u0434\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442QuantKAN4-bitQAT \u0434\u043b\u044f KANloss, \u043d\u0435 gainKANtize2-3 bitB-spline \u0442\u0430\u0431\u043b\u0438\u0446\u044bloss, \u043d\u0435 \u0432\u0435\u0441\u0430BiKA\u0430\u043f\u043f\u0430\u0440\u0430\u0442\u043d\u044b\u0439\u043a\u043e\u043c\u043f\u0430\u0440\u0430\u0442\u043e\u0440\u044b\u043d\u0435 KAN, HWBitNet b1.581.58 bitternary Transformerlossless, \u043d\u043e Transformer\u041c\u044b &#8212; GraphKAN1.58 bitSTE + gamma abs + clamp+1.4% \u043a float\u0418 \u0431\u043e\u043d\u0443\u0441: \u0442\u043e\u0442 \u0436\u0435 pipeline \u0434\u0430\u0435\u0442 +0.45% \u043d\u0430 CNN. \u041f\u043e\u0445\u043e\u0436\u0435, \u044d\u0444\u0444\u0435\u043a\u0442 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0438 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c &#8212; \u044d\u0442\u043e \u0441\u043a\u043e\u0440\u0435\u0435 \u043d\u0435 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u044c KAN, \u0430 \u043e\u0431\u0449\u0435\u0435 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e ternary QAT \u0441 gamma absorption.\u041a\u0443\u0434\u0430 \u044d\u0442\u043e \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f: \u043f\u043e\u0445\u043e\u0434 \u043f\u043e \u0436\u0435\u043b\u0435\u0437\u044315 \u041a\u0411 &#8212; \u0438 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0432\u044b\u0431\u043e\u0440\u0430 \u0447\u0438\u043f\u0430 \u043f\u0440\u043e\u0441\u0442\u043e \u0438\u0441\u0447\u0435\u0437\u0430\u0435\u0442.\u0423\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043eFlashL1 \u043a\u044d\u0448FPUGraphKAN \u0432\u043b\u0435\u0437\u0430\u0435\u0442?ARM Cortex-M0+ (STM32G0, $0.50)16-64 \u041a\u0411-\u043d\u0435\u0442\u2705 \u0446\u0435\u043b\u0438\u043a\u043e\u043cARM Cortex-M4 (STM32F4)512 \u041a\u041116 \u041a\u0411\u0435\u0441\u0442\u044c\u2705 \u0432 L1ARM Cortex-M7 (STM32H7)2 \u041c\u041164 \u041a\u0411\u0435\u0441\u0442\u044c\u2705 \u0432 L1RISC-V (GD32V)32 \u041a\u0411-\u043d\u0435\u0442\u2705ESP32-S3384 \u041a\u041116 \u041a\u0411\u043d\u0435\u0442\u2705 \u0432 L1Arduino Nano RP2040264 \u041a\u0411-\u043d\u0435\u0442\u2705\u0418 \u0433\u043b\u0430\u0432\u043d\u043e\u0435: \u0442\u0435\u0440\u043d\u0430\u0440\u043d\u044b\u0435 \u0432\u0435\u0441\u0430 \u0437\u0430\u043c\u0435\u043d\u044f\u044e\u0442 \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0435 \u043d\u0430 \u0443\u0441\u043b\u043e\u0432\u043d\u043e\u0435 \u0441\u043b\u043e\u0436\u0435\u043d\u0438\u0435\/\u0432\u044b\u0447\u0438\u0442\u0430\u043d\u0438\u0435\/\u043f\u0440\u043e\u043f\u0443\u0441\u043a &#8212; \u0434\u0432\u0430-\u0442\u0440\u0438 \u0442\u0430\u043a\u0442\u0430 \u043f\u0440\u043e\u0442\u0438\u0432 15-20 \u043d\u0430 float32. \u041d\u0438\u043a\u0430\u043a\u043e\u0433\u043e FPU, \u043d\u0438\u043a\u0430\u043a\u0438\u0445 DSP-\u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0439 &#8212; \u043d\u0430\u0444\u0438\u0433 \u043d\u0435 \u043d\u0443\u0436\u043d\u043e.\u0413\u0434\u0435 \u044d\u0442\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u0442\u044cTinyML. \u0414\u0430\u0442\u0447\u0438\u043a \u0432\u0438\u0431\u0440\u0430\u0446\u0438\u0438 \u043d\u0430 STM32G0 \u0437\u0430 $0.50 \u0441 \u0431\u0430\u0442\u0430\u0440\u0435\u0439\u043a\u043e\u0439 CR2032 \u043d\u0430 5 \u043b\u0435\u0442. GraphKAN \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u043f\u043e\u043b\u043e\u043c\u043a\u0443 \u043f\u043e\u0434\u0448\u0438\u043f\u043d\u0438\u043a\u0430. \u0411\u0435\u0437 Wi-Fi, \u0431\u0435\u0437 \u043e\u0431\u043b\u0430\u043a\u0430 &#8212; \u0432\u0441\u0451 \u043d\u0430 \u043c\u0435\u0441\u0442\u0435.\u0423\u043c\u043d\u044b\u0435 \u0447\u0430\u0441\u044b. \u0410\u043d\u0430\u043b\u0438\u0437 \u042d\u041a\u0413 \u043f\u0440\u044f\u043c\u043e \u043d\u0430 \u0447\u0438\u043f\u0435, \u0431\u0435\u0437 Bluetooth \u043d\u0430 \u0442\u0435\u043b\u0435\u0444\u043e\u043d. \u041c\u0435\u0434\u0438\u0446\u0438\u043d\u0441\u043a\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u043f\u043e\u043a\u0438\u0434\u0430\u044e\u0442 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e.LoRa-\u0441\u0435\u043d\u0441\u043e\u0440\u044b. 15 \u041a\u0411 &#8212; \u0440\u0430\u0437\u043c\u0435\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u043e\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u0434\u0430\u0442\u044c \u043f\u043e \u0440\u0430\u0434\u0438\u043e \u0437\u0430 \u043f\u0430\u0440\u0443 \u0441\u0435\u043a\u0443\u043d\u0434. \u0410\u0440\u0434\u0443\u0438\u043d\u043e \u0441 \u043a\u0430\u043c\u0435\u0440\u043e\u0439 &#8212; \u0441\u043d\u0438\u043c\u043e\u043a, GraphKAN, \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442. \u0412\u0441\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e.Edge AI \u0431\u0435\u0437 GPU. \u0413\u0440\u0430\u0444\u043e\u0432\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u043d\u0435\u0439\u0440\u043e\u043d \u043d\u0430 \u043d\u043e\u0432\u044b\u0439 \u0441\u0435\u043d\u0441\u043e\u0440 \u0431\u0435\u0437 \u043f\u0435\u0440\u0435\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u0441\u0435\u0442\u0438 &#8212; \u0434\u043b\u044f IoT \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f\u043c\u0438 \u0434\u0430\u0442\u0447\u0438\u043a\u043e\u0432 \u044d\u0442\u043e gold.\u041e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435. 15 \u041a\u0411 &#8212; \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u043e\u0436\u043d\u043e \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c \u043f\u043e\u0431\u0430\u0439\u0442\u043e\u0432\u043e. \u041f\u043e\u043d\u044f\u0442\u044c, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c, \u043d\u0435 \u0438\u043c\u0435\u044f GPU.\u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f (\u0447\u0435\u0441\u0442\u043d\u043e)\u041d\u0435 \u0445\u043e\u0447\u0443, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u0441\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b \u043a\u0430\u043a \u201c\u043c\u044b \u0432\u0441\u0435\u0445 \u043f\u043e\u0431\u0435\u0434\u0438\u043b\u0438, patent pending\u201d. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0447\u0435\u0441\u0442\u043d\u043e.CIFAR-10: 47.83%. KAN \u0432 \u0441\u0432\u043e\u0435\u0439 \u0431\u0430\u0437\u043e\u0432\u043e\u0439 \u0444\u043e\u0440\u043c\u0435 \u043d\u0435 \u0442\u044f\u043d\u0435\u0442 \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f. \u0414\u043b\u044f 32&#215;32 \u0446\u0432\u0435\u0442\u043d\u044b\u0445 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a \u043d\u0443\u0436\u043d\u0430 \u0441\u0432\u0435\u0440\u0442\u043e\u0447\u043d\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430. \u0412\u043e\u0442 \u0442\u0443\u0442 \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430: piecewise-linear \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0445\u0443\u0436\u0435 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u043d\u0430 \u0432\u044b\u0441\u043e\u043a\u043e\u0440\u0430\u0437\u043c\u0435\u0440\u043d\u044b\u0435 \u0432\u0445\u043e\u0434\u044b, \u0447\u0435\u043c \u0441\u0432\u0435\u0440\u0442\u043a\u0438.MNIST 96.15% &#8212; \u044d\u0442\u043e \u043d\u0435 SOTA. SOTA \u043d\u0430 MNIST &#8212; 99.8%+ (Ensemble CNN). \u041d\u043e SOTA \u0442\u0440\u0435\u0431\u0443\u0435\u0442 ~10+ \u041c\u0411 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 GPU \u0434\u043b\u044f \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430. 96.15% \u043f\u0440\u0438 15 \u041a\u0411 &#8212; \u044d\u0442\u043e \u0434\u0440\u0443\u0433\u043e\u0439 \u043a\u043b\u0430\u0441\u0441 \u0437\u0430\u0434\u0430\u0447: TinyML, \u0433\u0434\u0435 \u043d\u0435\u0442 \u043c\u0435\u0433\u0430\u0431\u0430\u0439\u0442 \u0438 \u043d\u0435\u0442 GPU. \u0421\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u044d\u0442\u0438 \u0446\u0438\u0444\u0440\u044b \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e &#8212; \u043a\u0430\u043a \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c Formula-1 \u0438 \u0432\u0435\u0437\u0434\u0435\u0445\u043e\u0434\u0430. \u0420\u0430\u0437\u043d\u044b\u0435 \u0442\u0440\u0430\u0441\u0441\u044b.\u0413\u0440\u0430\u0444 \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432\u0440\u0443\u0447\u043d\u0443\u044e. \u0422\u043e\u043f\u043e\u043b\u043e\u0433\u0438\u044f (\u043a\u0442\u043e \u0441 \u043a\u0435\u043c \u0441\u043e\u0435\u0434\u0438\u043d\u0451\u043d) \u043d\u0435 \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f &#8212; \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0434\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0422\u0443\u0442 \u043d\u0435\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f adjacency matrix, \u043a\u0430\u043a \u0432 graph neural network. \u0413\u0440\u0430\u0444, \u043d\u043e \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u0430 \u0434\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.\u0423\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0435 \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u043d\u0443\u0436\u043d\u043e \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 training. \u0422\u0435\u0440\u043d\u0430\u0440\u043d\u043e\u0441\u0442\u044c &#8212; \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043b\u044f inference. Training \u0438\u0434\u0435\u0442 \u0432 float \u0441 STE.\u042d\u043f\u0438\u043b\u043e\u0433: \u043f\u043e\u0447\u0435\u043c\u0443 15 \u041a\u0411 \u0432\u0430\u0436\u043d\u0435\u0435, \u0447\u0435\u043c 99% accuracy\u041b\u043e\u0433\u0438\u0447\u043d\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441: \u0430 \u043f\u043e\u0447\u0435\u043c\u0443 \u0431\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435 \u0432\u0437\u044f\u0442\u044c CNN \u0438 \u043d\u0435 \u0441\u0436\u0430\u0442\u044c \u0435\u0435 \u0434\u043e 15 \u041a\u0411?\u041e\u0442\u0432\u0435\u0442: \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u0439\u0442\u0435.\u0412\u043e\u0437\u044c\u043c\u0438\u0442\u0435 ResNet-18 (44 MB), \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0443\u0439\u0442\u0435 \u0434\u043e 2 \u0431\u0438\u0442 &#8212; \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0435 ~2.75 MB. \u041d\u0435 15 \u041a\u0411. Mobilenet (4 MB) &#8212; ~500 \u041a\u0411. \u0412\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u043d\u0435 15 \u041a\u0411.\u0427\u0442\u043e\u0431\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c 15 \u041a\u0411, \u043d\u0443\u0436\u043d\u043e \u043b\u0438\u0431\u043e \u0440\u0435\u0437\u0430\u0442\u044c \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 \u0434\u043e \u043d\u0435\u043f\u0440\u0438\u043b\u0438\u0447\u0438\u044f (\u043e\u0434\u0438\u043d \u0441\u043b\u043e\u0439, 10 \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 &#8212; \u0438 60% accuracy), \u043b\u0438\u0431\u043e \u043c\u0435\u043d\u044f\u0442\u044c \u0441\u0430\u043c\u0443 \u043f\u0430\u0440\u0430\u0434\u0438\u0433\u043c\u0443.\u0412 \u043e\u0431\u0449\u0435\u043c, GraphKAN \u043c\u0435\u043d\u044f\u0435\u0442 \u043f\u0430\u0440\u0430\u0434\u0438\u0433\u043c\u0443: \u0432\u0435\u0441 &#8212; \u044d\u0442\u043e \u043d\u0435 \u0447\u0438\u0441\u043b\u043e \u0434\u043b\u044f \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u044f, \u0430 \u043e\u0434\u0438\u043d \u0438\u0437 \u0442\u0440\u0435\u0445 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432. \u041f\u0440\u043e\u043f\u0443\u0441\u0442\u0438\u0442\u044c, \u0438\u043d\u0432\u0435\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0438\u043b\u0438 \u0437\u0430\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u0430\u0442\u044c &#8212; \u0438 \u0432\u0441\u0451.\u042d\u0442\u043e \u0443\u0436\u0435 \u043d\u0435 \u0441\u043e\u0432\u0441\u0435\u043c \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u0432 \u043f\u0440\u0438\u0432\u044b\u0447\u043d\u043e\u043c \u0441\u043c\u044b\u0441\u043b\u0435. \u041f\u043e \u0434\u0443\u0445\u0443 \u043e\u043d\u043e \u0431\u043b\u0438\u0436\u0435 \u043a \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u043c\u0443 \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0443 \u0441 \u043e\u0431\u0443\u0447\u0430\u0435\u043c\u044b\u043c\u0438 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0430\u043c\u0438, \u0433\u0434\u0435 \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0435\u0440\u0435\u0445\u043e\u0434 &#8212; {-1, 0, +1}. \u0418 \u044d\u0442\u043e\u0442 \u0430\u0432\u0442\u043e\u043c\u0430\u0442 \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c \u0441 \u0442\u0440\u0438 JPEG-\u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u0443\u0433\u0430\u0434\u044b\u0432\u0430\u0435\u0442 \u0446\u0438\u0444\u0440\u044b \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e 96%.\u0414\u0435\u043b\u043e \u043d\u0435 \u0432 \u0440\u0435\u043a\u043e\u0440\u0434\u0430\u0445. SOTA \u0431\u0443\u0434\u0435\u0442 \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u043a\u0430\u0436\u0434\u044b\u0435 \u043f\u043e\u043b\u0433\u043e\u0434\u0430 &#8212; \u0434\u0430 \u0438 \u043f\u043e\u0444\u0438\u0433. \u0410 15 \u041a\u0411 &#8212; \u044d\u0442\u043e \u043f\u043e\u0440\u043e\u0433, \u043f\u043e\u0441\u043b\u0435 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0436\u0435 \u043d\u0435 \u00ab\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c\u00bb, \u0430 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u0447\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f.\u041d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u043d\u0435 \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043c\u0438\u043a\u0440\u043e\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u043b\u0435\u0440 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e &#8212; \u043e\u043d\u0430 \u043a\u043e\u043c\u043f\u0438\u043b\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u043f\u0440\u043e\u0448\u0438\u0432\u043a\u043e\u0439. \u041e\u0434\u043d\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043d\u0430 \u043e\u0434\u043d\u0443 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0443 &#8212; \u0438 \u043d\u0438\u043a\u0430\u043a\u0438\u0445 \u0442\u0435\u0431\u0435 DMA, \u0432\u043d\u0435\u0448\u043d\u0438\u0445 flash \u0438\u043b\u0438 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u043e\u0432.15 \u041a\u0411 &#8212; \u044d\u0442\u043e \u0440\u0430\u0437\u043c\u0435\u0440 \u043d\u0435 \u043c\u043e\u0434\u0435\u043b\u0438.\u042d\u0442\u043e \u0440\u0430\u0437\u043c\u0435\u0440 \u0440\u0435\u0448\u0435\u043d\u0438\u044f.\u0421\u0441\u044b\u043b\u043a\u0438:GitHub: github.com\/Fakeonomics\/graphkan-overviewDOI: 10.5281\/zenodo.20725230Live: fakeonomics.github.io\/graphkan-overview\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b &#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-484353","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/484353","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=484353"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/484353\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=484353"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=484353"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=484353"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}