{"id":467891,"date":"2025-07-20T21:47:12","date_gmt":"2025-07-20T21:47:12","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=467891"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=467891","title":{"rendered":"<span>\u00ab\u042d\u0440\u0430 Flink 2.0\u00bb: \u0447\u0442\u043e \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0432 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 real\u2011time \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<h3>\u0410\u043d\u043d\u043e\u0442\u0430\u0446\u0438\u044f<\/h3>\n<p>Apache Flink 2.0 \u2014 \u043f\u0435\u0440\u0432\u044b\u0439 \u043c\u0430\u0436\u043e\u0440\u043d\u044b\u0439 \u0440\u0435\u043b\u0438\u0437 \u043f\u043e\u0441\u043b\u0435 1.0 (2016), \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u044e\u0449\u0438\u0439 \u043c\u043d\u043e\u0433\u043e\u043b\u0435\u0442\u043d\u0438\u0439 \u0446\u0438\u043a\u043b \u044d\u0432\u043e\u043b\u044e\u0446\u0438\u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0438 \u0443\u0441\u0442\u0440\u0430\u043d\u044f\u044e\u0449\u0438\u0439 \u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u043d\u044b\u0435 \u0431\u043e\u043b\u0435\u0432\u044b\u0435 \u0442\u043e\u0447\u043a\u0438 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u0445 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c: \u0443\u0441\u043b\u043e\u0436\u043d\u044f\u044e\u0449\u0443\u044e\u0441\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044e, \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f, \u0440\u0430\u0437\u0440\u044b\u0432 \u043c\u0435\u0436\u0434\u0443 batch \u0438 streaming, \u0443\u0441\u0442\u0430\u0440\u0435\u0432\u0448\u0438\u0435 API \u0438 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u0443\u044e \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u043f\u0440\u0438 \u0440\u043e\u0441\u0442\u0435 AI\/real\u2011time \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0435\u0432. \u0412 \u043a\u043e\u043c\u0430\u043d\u0434\u0435 BitDive \u043c\u044b \u0443\u0436\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c Flink 2.0 \u0434\u043b\u044f \u043d\u0438\u0437\u043a\u043e\u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u0445 \u043c\u0435\u0442\u0440\u0438\u043a \u0438 \u0442\u0440\u0430\u0441\u0441\u0438\u0440\u043e\u0432\u043e\u043a (\u0430\u0433\u0440\u0435\u0433\u0430\u0446\u0438\u044f, \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0430\u043d\u043e\u043c\u0430\u043b\u0438\u0439) \u2014 \u044d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u043b\u043e \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u044c recovery \u0438 \u0441\u043d\u0438\u0437\u0438\u0442\u044c \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 \u043b\u0438\u043d\u0438\u0435\u0439 1.20.x. <\/p>\n<h3>1. \u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0438\u043d\u0434\u0443\u0441\u0442\u0440\u0438\u0438 \u0438 \u043c\u043e\u0442\u0438\u0432\u0430\u0446\u0438\u044f<\/h3>\n<p>\u0421\u043f\u0440\u043e\u0441 \u043d\u0430 \u043c\u0438\u043b\u0438\u0441\u0435\u043a\u0443\u043d\u0434\u043d\u0443\u044e \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0440\u0435\u0430\u043a\u0446\u0438\u044e \u0438 \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u0446\u0438\u044e \u0441 AI\/LLM \u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440\u0430\u043c\u0438 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u044e\u0442 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435\u043c, \u0433\u0438\u0431\u043a\u043e \u0440\u0435\u0441\u043a\u0435\u0439\u043b\u044f\u0442\u0441\u044f \u0438 \u0434\u0430\u044e\u0442 \u0434\u0435\u043a\u043b\u0430\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c (SQL \/ Materialized Tables) \u043f\u043e\u0432\u0435\u0440\u0445 \u043d\u0438\u0437\u043a\u043e\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u043e\u0433\u043e DataStream \u2014 \u0431\u0435\u0437 \u0440\u0430\u0437\u0440\u044b\u0432\u043e\u0432 \u043c\u0435\u0436\u0434\u0443 \u043f\u0430\u043a\u0435\u0442\u043d\u043e\u0439 \u0438 \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u043e\u0439. <\/p>\n<h3>2. \u041a\u043b\u044e\u0447\u0435\u0432\u044b\u0435 \u0431\u043e\u043b\u0435\u0432\u044b\u0435 \u0442\u043e\u0447\u043a\u0438 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u0445 \u0440\u0435\u0448\u0435\u043d\u0438\u0439<\/h3>\n<ol>\n<li>\n<p><strong>\u041e\u043f\u0435\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u0438 \u0440\u0430\u0437\u043d\u043e\u0440\u043e\u0434\u043d\u043e\u0441\u0442\u044c API<\/strong> (\u0443\u0441\u0442\u0430\u0440\u0435\u0432\u0448\u0438\u0435 DataSet \/ Scala API, \u0440\u0430\u0437\u0440\u043e\u0437\u043d\u0435\u043d\u043d\u044b\u0435 sink-\u0438) \u0443\u0445\u0443\u0434\u0448\u0430\u043b\u0438 \u043a\u0440\u0438\u0432\u0443\u044e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u043f\u043e\u0432\u044b\u0448\u0430\u043b\u0438 TCO. <\/p>\n<\/li>\n<li>\n<p><strong>\u0421\u0432\u044f\u0437\u043a\u0430 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0438 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0430 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f<\/strong> \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u043b\u0430 \u043c\u0430\u0441\u0448\u0442\u0430\u0431 (\u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u043f\u0430\u043c\u044f\u0442\u044c \/ \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u0434\u0438\u0441\u043a\u0438), \u0443\u0441\u043b\u043e\u0436\u043d\u044f\u043b\u0430 \u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u0440\u0435\u0441\u043a\u0435\u0439\u043b \u0438 \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435. <\/p>\n<\/li>\n<li>\n<p><strong>\u041d\u0435\u0441\u043e\u0433\u043b\u0430\u0441\u043e\u0432\u0430\u043d\u043d\u043e\u0441\u0442\u044c batch\/stream \u043c\u043e\u0434\u0435\u043b\u0438<\/strong> \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 API \u0438 \u0443\u0441\u043b\u043e\u0436\u043d\u044f\u043b\u0430 \u0441\u043e\u0432\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u0438\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u043f\u0435\u0440\u0435\u0438\u0433\u0440\u043e\u0432\u043a\u0438 \u0441 \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u044b\u043c \u043f\u043e\u0442\u043e\u043a\u043e\u043c. <\/p>\n<\/li>\n<li>\n<p><strong>\u0417\u0430\u0434\u0435\u0440\u0436\u043a\u0438 \u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0435\u0439<\/strong> \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u0434\u0432\u0438\u0436\u043a\u0430\u0445 (Spark Structured Streaming) \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u044e\u0442 \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u043e\u0447\u043d\u044b\u0439 \u043e\u0432\u0435\u0440\u0445\u0435\u0434 \u043f\u0440\u0438 \u043e\u0447\u0435\u043d\u044c \u043d\u0438\u0437\u043a\u0438\u0445 SLA, \u0445\u043e\u0442\u044f \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0441\u043d\u0438\u0437\u0438\u043b\u0438 \u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u0434\u043e \u0441\u043e\u0442\u0435\u043d \u043c\u0438\u043b\u043b\u0438\u0441\u0435\u043a\u0443\u043d\u0434. <\/p>\n<\/li>\n<li>\n<p><strong>\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u0432\u0448\u0438\u0442\u044b\u0439 state (Kafka Streams + RocksDB)<\/strong> \u0443\u0441\u043a\u043e\u0440\u044f\u0435\u0442 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0438, \u043d\u043e \u0443\u0441\u043b\u043e\u0436\u043d\u044f\u0435\u0442 \u0440\u0435\u0441\u0442\u043e\u0440 \/ \u0440\u0435\u0431\u0430\u043b\u0430\u043d\u0441 \u0438 \u0434\u0430\u0451\u0442 \u00ab\u0448\u0438\u043f\u044b\u00bb \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f. <\/p>\n<\/li>\n<li>\n<p><strong>\u0414\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0430\u043f\u0433\u0440\u0435\u0439\u0434\u043d\u044b\u0439 \u0445\u0432\u043e\u0441\u0442 1.x<\/strong> (\u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 1.20 \u043a\u0430\u043a LTS) \u0442\u043e\u0440\u043c\u043e\u0437\u0438\u043b \u0432\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435 \u0438\u043d\u043d\u043e\u0432\u0430\u0446\u0438\u0439. <\/p>\n<\/li>\n<\/ol>\n<h3>3. \u0427\u0442\u043e \u043f\u0440\u0438\u043d\u043e\u0441\u0438\u0442 Flink 2.0 (\u043e\u0431\u0437\u043e\u0440 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439)<\/h3>\n<ul>\n<li>\n<p><strong>\u0423\u0434\u0430\u043b\u0435\u043d\u0438\u0435 \u0443\u0441\u0442\u0430\u0440\u0435\u0432\u0448\u0438\u0445 API<\/strong> (DataSet, Scala DataStream\/DataSet) \u2192 \u0435\u0434\u0438\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u0438\u0435 \u0438 \u0441\u043d\u0438\u0436\u0435\u043d\u0438\u0435 \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u043d\u043e\u0439 \u043f\u043b\u043e\u0449\u0430\u0434\u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438. <\/p>\n<\/li>\n<li>\n<p><strong>\u0423\u043d\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f \u0438 \u043c\u043e\u0434\u0435\u0440\u043d\u0438\u0437\u0430\u0446\u0438\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \/ Unified Sink API \/ Materialized Tables<\/strong> \u0434\u043b\u044f \u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u043e\u0433\u043e DX \u0438 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0439. <\/p>\n<\/li>\n<li>\n<p><strong>Java 17 \u043a\u0430\u043a \u0434\u0435\u0444\u043e\u043b\u0442 + \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 Java 21; \u043e\u0442\u043a\u0430\u0437 \u043e\u0442 Java 8<\/strong> \u2014 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 JVM \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0439 (GC \/ vector API \u0438 \u0442.\u043f.). <\/p>\n<\/li>\n<li>\n<p><strong>\u0414\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0435\u0440\u0438\u043e\u0434 \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0438 (\u22482 \u0433\u043e\u0434\u0430, 25 FIP, \u0441\u043e\u0442\u043d\u0438 \u0444\u0438\u043a\u0441\u043e\u0432)<\/strong> \u043f\u043e\u0434\u0447\u0451\u0440\u043a\u0438\u0432\u0430\u0435\u0442 \u0433\u043b\u0443\u0431\u0438\u043d\u0443 \u0440\u0435\u0444\u0430\u043a\u0442\u043e\u0440\u0438\u043d\u0433\u0430. <\/p>\n<\/li>\n<li>\n<p><strong>\u0414\u0438\u0437\u0430\u0433\u0440\u0435\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 (separation compute\/storage)<\/strong> \u2014 \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u0435\u043c\u043e\u0441\u0442\u0438 \u0438 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0447\u043d\u043e\u0441\u0442\u0438. (\u0427\u0430\u0441\u0442\u044c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0435\u0439 \u043f\u043e\u0441\u0442\u0443\u043f\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0432\u043d\u0435\u0434\u0440\u044f\u0435\u0442\u0441\u044f; \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0430\u0441\u043f\u0435\u043a\u0442\u044b \u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u044d\u0432\u043e\u043b\u044e\u0446\u0438\u043e\u043d\u0438\u0440\u0443\u044e\u0449\u0438\u043c\u0438.) <\/p>\n<\/li>\n<\/ul>\n<h3>4. \u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u044b\u0435 \u0430\u043a\u0446\u0435\u043d\u0442\u044b Flink 2.0<\/h3>\n<h4>4.1 \u0423\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u0435 API \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u0438<\/h4>\n<p>\u041a\u043e\u043d\u0441\u043e\u043b\u0438\u0434\u0430\u0446\u0438\u044f \u0432\u043e\u043a\u0440\u0443\u0433 DataStream + Table\/SQL \u0441\u043d\u0438\u0436\u0430\u0435\u0442 \u043a\u043e\u0433\u043d\u0438\u0442\u0438\u0432\u043d\u0443\u044e \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u0438 \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442 \u043e\u0434\u0438\u043d \u043f\u0443\u0442\u044c \u043c\u0438\u0433\u0440\u0430\u0446\u0438\u0438 batch-\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d\u043e\u0432 (\u0431\u044b\u0432\u0448\u0438\u0445 DataSet) \u0432 \u0431\u043e\u043b\u0435\u0435 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u044b\u0439 \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0449\u0438\u043a\u043e\u043c \u0441\u043b\u043e\u0439. <\/p>\n<h4>4.2 \u0423\u043d\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f batch \u0438 streaming<\/h4>\n<p>\u041b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u043b\u0430\u043d \u0441\u0442\u0440\u043e\u0438\u0442\u0441\u044f \u0435\u0434\u0438\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u043d\u043e, \u0447\u0442\u043e \u043e\u0431\u043b\u0435\u0433\u0447\u0430\u0435\u0442 backfill: \u0438\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0441\u0435\u0433\u043c\u0435\u043d\u0442 \u043f\u043e\u0434\u0430\u0451\u0442\u0441\u044f \u043a\u0430\u043a bounded stream \u0438 \u0441\u0448\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0441 live \u043f\u043e\u0442\u043e\u043a\u043e\u043c \u0431\u0435\u0437 \u0441\u043c\u0435\u043d\u044b \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0430. <\/p>\n<h4>4.3 \u0414\u0438\u0437\u0430\u0433\u0440\u0435\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435<\/h4>\n<p>\u041e\u0442\u0432\u044f\u0437\u043a\u0430 \u0436\u0438\u0437\u043d\u0435\u043d\u043d\u043e\u0433\u043e \u0446\u0438\u043a\u043b\u0430 state \u043e\u0442 TaskManager \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u0442\u044c compute \u0433\u043e\u0440\u0438\u0437\u043e\u043d\u0442\u0430\u043b\u044c\u043d\u043e \u0431\u0435\u0437 \u00ab\u043f\u0435\u0440\u0435\u043b\u0438\u0432\u043a\u0438\u00bb \u043e\u0433\u0440\u043e\u043c\u043d\u044b\u0445 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 RocksDB, \u0443\u0441\u043a\u043e\u0440\u044f\u044f recovery \u0438 \u0441\u043d\u0438\u0436\u0430\u044f \u0434\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 SSD. (\u0412\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435 \u043f\u043e\u044d\u0442\u0430\u043f\u043d\u043e; \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u044e \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u044e\u0442 \u043f\u0443\u0431\u043b\u0438\u043a\u0430\u0446\u0438\u0438 \u043e separation architecture.) <\/p>\n<h4>4.4 \u041c\u043e\u0434\u0435\u0440\u043d\u0438\u0437\u0430\u0446\u0438\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f<\/h4>\n<p>\u041f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0442\u0438\u043f\u043e\u0432 (Duration\/Enum \u0432\u043c\u0435\u0441\u0442\u043e \u0441\u0442\u0440\u043e\u043a), \u043e\u0447\u0438\u0441\u0442\u043a\u0430 \u0443\u0441\u0442\u0430\u0440\u0435\u0432\u0448\u0438\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0438 \u0443\u043d\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 sink-\u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0446\u0438\u0438 \u0441\u043d\u0438\u0436\u0430\u044e\u0442 \u0440\u0438\u0441\u043a \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u043d\u0435\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u043e\u0441\u0442\u0435\u0439 \u0438 \u0443\u043f\u0440\u043e\u0449\u0430\u044e\u0442 \u0430\u0432\u0442\u043e\u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e \u043a\u043e\u043d\u0444\u0438\u0433\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u043c\u0438 DevOps\/AI.<\/p>\n<h4>4.5 \u041f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 JVM<\/h4>\n<p>\u0414\u0435\u0444\u043e\u043b\u0442 Java 17 \u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 Java 21 \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u044e\u0442 \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u043d\u043e\u043c\u0443 JIT, CDS, ZGC\/Shenandoah \u0438 \u0443\u043f\u0440\u043e\u0449\u0430\u044e\u0442 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u043d\u0443\u044e \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044e.<\/p>\n<h3>5. \u0421\u0446\u0435\u043d\u0430\u0440\u0438\u0438 AI \/ Real-Time<\/h3>\n<p>\u0414\u043b\u044f LLM-\u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u0438 feature engineering \u0432\u0430\u0436\u043d\u043e: (a) \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u0430\u044f \u043d\u0438\u0437\u043a\u0430\u044f \u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u0431\u0435\u0437 \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0435\u0432\u044b\u0445 \u0431\u0430\u0440\u044c\u0435\u0440\u043e\u0432, (b) \u0431\u044b\u0441\u0442\u0440\u043e\u0435 \u044d\u043b\u0430\u0441\u0442\u0438\u0447\u043d\u043e\u0435 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u043e\u0434 \u00ab\u0448\u0442\u043e\u0440\u043c\u0430\u00bb \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, (c) \u043c\u0430\u0442\u0435\u0440\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0441\u0440\u0435\u0437\u043e\u0432 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \/ \u0430\u0433\u0440\u0435\u0433\u0430\u0442\u043e\u0432 \u0432 near-real-time. \u0423\u043d\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 Materialized Tables \u0438 \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u044e\u0442 \u043e\u0441\u043d\u043e\u0432\u0443 \u0434\u043b\u044f \u043f\u043e\u0442\u043e\u043a\u043e\u0432\u043e\u0433\u043e feature store \u0438 on-demand backfill. (\u0427\u0430\u0441\u0442\u044c \u0432\u044b\u0432\u043e\u0434\u043e\u0432 \u2014 \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u044d\u043a\u0441\u0442\u0440\u0430\u043f\u043e\u043b\u044f\u0446\u0438\u044f, \u0430 \u043d\u0435 \u043f\u0440\u044f\u043c\u044b\u0435 \u0446\u0438\u0442\u0430\u0442\u044b.) <\/p>\n<h3>6. \u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0441 Spark Structured Streaming \u0438 Kafka Streams<\/h3>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041a\u0440\u0438\u0442\u0435\u0440\u0438\u0439<\/p>\n<\/th>\n<th>\n<p align=\"left\">Flink 2.0<\/p>\n<\/th>\n<th>\n<p align=\"left\">Spark Structured Streaming<\/p>\n<\/th>\n<th>\n<p align=\"left\">Kafka Streams<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041c\u043e\u0434\u0435\u043b\u044c \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u044b\u0439 \u043f\u043e\u0442\u043e\u043a (event-at-a-time \u0432\u043d\u0443\u0442\u0440\u0438 \u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440\u0430)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0438 (\u0435\u0441\u0442\u044c continuous mode, \u043d\u043e \u0440\u0435\u0436\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0411\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430 \u043f\u043e\u0432\u0435\u0440\u0445 Kafka \u0431\u0440\u043e\u043a\u0435\u0440\u0430<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u0442\u0438\u043f\u043e\u0432\u0430\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041c\u0438\u043b\u043b\u0438\u0441\u0435\u043a\u0443\u043d\u0434\u044b\u2013\u0434\u0435\u0441\u044f\u0442\u043a\u0438 (\u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440\u0430\/\u0441\u0435\u0442\u043a\u0438)<\/p>\n<\/td>\n<td>\n<p align=\"left\">100\u2013250+ ms \u0432 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f\u0445 \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0435\u0439 (sub\u2011second)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0438\u0437\u043a\u0430\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e (RocksDB + \u0431\u0435\u0437 \u0441\u0435\u0442\u0435\u0432\u044b\u0445 \u0432\u044b\u0437\u043e\u0432\u043e\u0432)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0423\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435\u043c<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u042d\u0432\u043e\u043b\u044e\u0446\u0438\u044f \u043a disaggregated + \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442\u044b \/ \u0438\u043d\u043a\u0440\u0435\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0441\u043d\u0430\u043f\u0448\u043e\u0442\u044b<\/p>\n<\/td>\n<td>\n<p align=\"left\">State \u0432 \u044d\u043a\u0437\u0435\u043a\u044c\u044e\u0442\u043e\u0440\u0430\u0445 + WAL; \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0435\u0432\u044b\u0435 \u0433\u0440\u0430\u043d\u0438\u0446\u044b<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 RocksDB + changelog topic<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Recovery \/ \u0440\u0435\u0441\u043a\u0435\u0439\u043b<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0423\u0441\u043a\u043e\u0440\u044f\u0435\u0442\u0441\u044f \u0437\u0430 \u0441\u0447\u0451\u0442 separation (\u043c\u0435\u043d\u044c\u0448\u0435 \u043f\u0435\u0440\u0435\u043b\u0438\u0432\u043e\u043a)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0417\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0430 \u0438 shuffle<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0420\u0435\u0441\u0442\u043e\u0440 RocksDB \u0438\u0437 changelog (\u0434\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0440\u0435\u0431\u0430\u043b\u0430\u043d\u0441\u044b)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0423\u043d\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f batch\/stream<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0415\u0434\u0438\u043d\u044b\u0439 \u0438\u0441\u043f\u043e\u043b\u043d. \u043f\u043b\u0430\u043d &amp; Table\/SQL<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0415\u0434\u0438\u043d\u044b\u0439 API (SQL\/DataFrame) \u043d\u043e \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447 \u043f\u0440\u0438\u0440\u043e\u0434\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442 batch; \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u0435 \u0442\u043e\u043f\u0438\u043a\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">API \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u044c<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u0444\u043e\u043a\u0443\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u0430 (DataStream + Table\/SQL)<\/p>\n<\/td>\n<td>\n<p align=\"left\">SQL\/DataFrame + Dataset (\u0443\u0441\u0442\u0430\u0440.), RDD \u043d\u0438\u0437\u043a\u043e\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u044b\u0439<\/p>\n<\/td>\n<td>\n<p align=\"left\">Java DSL (Topology)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0422\u0438\u043f\u0438\u0447\u043d\u044b\u0435 \u0431\u043e\u043b\u0438<\/p>\n<\/td>\n<td>\n<p align=\"left\">(\u0421\u043c\u044f\u0433\u0447\u0430\u044e\u0442\u0441\u044f) \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c state, \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0439 \u0442\u044e\u043d\u0438\u043d\u0433<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0422\u044e\u043d\u0438\u043d\u0433 batch interval, \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0449\u0438\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0420\u0435\u0441\u0442\u043e\u0440\/\u0440\u0435\u0431\u0430\u043b\u0430\u043d\u0441 state, tuning RocksDB<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">(\u0421\u043c. \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 \u0440\u0430\u0437\u0431\u043e\u0440 \u043d\u0438\u0436\u0435.)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>Flink 2.0 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u0442 API-\u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044e \u0438 \u0434\u0432\u0438\u0436\u0435\u0442\u0441\u044f \u043a \u043e\u0442\u0434\u0435\u043b\u0435\u043d\u0438\u044e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f, Spark \u0441\u043d\u0438\u0436\u0430\u0435\u0442 \u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0435\u0439 \u0434\u043e \u0441\u043e\u0442\u0435\u043d \u043c\u0438\u043b\u043b\u0438\u0441\u0435\u043a\u0443\u043d\u0434 \u0438 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442 SQL-\u0443\u043d\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0441\u0442\u044c, Kafka Streams \u0443\u043f\u0440\u043e\u0449\u0430\u0435\u0442 \u0434\u0435\u043f\u043b\u043e\u0439 \u043a\u0430\u043a \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430, \u043d\u043e \u043f\u043b\u0430\u0442\u0438\u0442 \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c\u044e \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f \u0438 \u0442\u044e\u043d\u0438\u043d\u0433\u043e\u043c RocksDB. <\/p>\n<h3>7. \u041c\u0435\u0442\u043e\u0434\u043e\u043b\u043e\u0433\u0438\u044f \u0438 \u043f\u0440\u0438\u043c\u0435\u0440 \u043f\u0438\u043b\u043e\u0442\u043d\u043e\u0439 \u043c\u0438\u0433\u0440\u0430\u0446\u0438\u0438 (1.20.x \u2192 2.0)<\/h3>\n<h4>7.1 \u0428\u0430\u0433\u0438 \u043c\u0438\u0433\u0440\u0430\u0446\u0438\u0438<\/h4>\n<ol>\n<li>\n<p><strong>\u0418\u043d\u0432\u0435\u043d\u0442\u0430\u0440\u0438\u0437\u0430\u0446\u0438\u044f API<\/strong>: \u0432\u044b\u044f\u0432\u0438\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 DataSet \/ Scala API \u2014 \u0437\u0430\u043c\u0435\u043d\u0438\u0442\u044c \u043d\u0430 Table\/SQL \u0438\u043b\u0438 DataStream. <\/p>\n<\/li>\n<li>\n<p><strong>\u041e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435 Java base image<\/strong> (\u0434\u043e 17, \u0442\u0435\u0441\u0442 \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u043e\u0441\u0442\u0438 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0435\u0439). <\/p>\n<\/li>\n<li>\n<p><strong>Unified Sink API<\/strong>: \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u0441\u043e \u0441\u0442\u0430\u0440\u044b\u0445 SinkFunction \u043d\u0430 \u043d\u043e\u0432\u044b\u0435 sink-\u043a\u043e\u043d\u043d\u0435\u043a\u0442\u043e\u0440\u044b (Iceberg, Kafka, \u0444\u0430\u0439\u043b\u043e\u0432\u044b\u0435). <\/p>\n<\/li>\n<li>\n<p><strong>\u041f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u043a\u043e\u043d\u0444\u0438\u0433\u043e\u0432<\/strong>: \u0430\u0434\u0430\u043f\u0442\u0430\u0446\u0438\u044f \u0442\u0438\u043f\u043e\u0432 Duration\/Enum; \u0447\u0438\u0441\u0442\u043a\u0430 deprecated \u043a\u043b\u044e\u0447\u0435\u0439. <\/p>\n<\/li>\n<li>\n<p><strong>State \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u044f<\/strong>: \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0430 \u043a \u0431\u0443\u0434\u0443\u0449\u0435\u043c\u0443 \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u044e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0432 \u0440\u0430\u0437\u0434\u0435\u043b\u0451\u043d\u043d\u043e\u043c \u0441\u0442\u043e\u0440\u0438\u0434\u0436\u0435 (s3\/hdfs + \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u043a\u0435\u0448). (\u041f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u043f\u0443\u0431\u043b\u0438\u0447\u043d\u044b\u0445 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0439 \u044d\u0432\u043e\u043b\u044e\u0446\u0438\u0438.)<\/p>\n<\/li>\n<li>\n<p><strong>\u0420\u0435\u0438\u043d\u0436\u0438\u043d\u0438\u0440\u0438\u043d\u0433 backfill<\/strong>: \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u043c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 batch \u0434\u0436\u043e\u0431\u044b \u043d\u0430 bounded stream + \u043f\u043e\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 switch \u043a unbounded. citeturn0search2turn0search7\ue201<\/p>\n<\/li>\n<li>\n<p><strong>\u0422\u0435\u0441\u0442 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438<\/strong>: \u0438\u0437\u043c\u0435\u0440\u044f\u0435\u043c p50\/p95 end-to-end latency, \u0432\u0440\u0435\u043c\u044f checkpoint, \u0432\u0440\u0435\u043c\u044f recovery, state size.<\/p>\n<\/li>\n<\/ol>\n<h4>7.2 \u041a\u043e\u0434 \u0434\u043e (Flink 1.20.x, \u0443\u043f\u0440\u043e\u0449\u0451\u043d\u043d\u044b\u0439 Java DataStream)<\/h4>\n<pre><code class=\"java\">\/\/ Java 11 \/ Flink 1.20.x (\u043f\u0440\u0438\u043c\u0435\u0440) StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); env.enableCheckpointing(60_000); DataStream&lt;String&gt; raw = env   .addSource(new FlinkKafkaConsumer&lt;&gt;(\"events\", new SimpleStringSchema(), props)); DataStream&lt;Enriched&gt; enriched = raw   .map(Parser::parse)   .keyBy(Enriched::key)   .process(new StatefulEnrichmentFunction()); \/\/ \u0421\u0442\u0430\u0440\u044b\u0439 SinkFunction enriched.addSink(new LegacyJdbcSinkFunction(...)); env.execute(\"legacy-pipeline\"); <\/code><\/pre>\n<h4>7.3 \u041a\u043e\u0434 \u043f\u043e\u0441\u043b\u0435 (Flink 2.0, Java 17, Unified Sink + Table API \u043c\u0430\u0442\u0435\u0440\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f)<\/h4>\n<pre><code class=\"java\">\/\/ Java 17 \/ Flink 2.0 StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); env.enableCheckpointing(30_000); \/\/ \u041f\u0440\u0438\u043c\u0435\u0440: \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u043d\u043e\u0432\u043e\u0439 Kafka Source API KafkaSource&lt;String&gt; source = KafkaSource.&lt;String&gt;builder()   .setBootstrapServers(brokers)   .setTopics(\"events\")   .setGroupId(\"events-consumer\")   .setStartingOffsets(OffsetsInitializer.latest())   .setValueOnlyDeserializer(new SimpleStringSchema())   .build(); DataStream&lt;String&gt; raw = env.fromSource(source, WatermarkStrategy.noWatermarks(), \"events\"); DataStream&lt;Enriched&gt; enriched = raw   .map(Parser::parse)   .keyBy(Enriched::key)   .process(new StatefulEnrichmentFunction()); \/\/ Unified Sink (\u043f\u0440\u0438\u043c\u0435\u0440 File \/ Iceberg \/ JDBC \u0447\u0435\u0440\u0435\u0437 Factory) Sink&lt;Enriched&gt; sink = MyUnifiedSinkFactory.icebergSink(tableIdent, catalogCfg); enriched.sinkTo(sink); \/\/ \u0418\u043d\u0442\u0435\u0433\u0440\u0430\u0446\u0438\u044f \u0441 Table API EnvironmentSettings settings = EnvironmentSettings.newInstance().inStreamingMode().build(); TableEnvironment tEnv = TableEnvironment.create(settings); Table table = tEnv.fromDataStream(enriched); tEnv.createTemporaryView(\"enriched_stream\", table); Table agg = tEnv.sqlQuery(\"\"\"   SELECT key, COUNT(*) AS cnt, WINDOW_START(w) AS w_start   FROM TABLE(     TUMBLE(TABLE enriched_stream, DESCRIPTOR(eventTime), INTERVAL '1' MINUTE) )   GROUP BY key, w \"\"\"); agg.executeInsert(\"target_materialized_table\"); env.execute(\"modern-pipeline\"); <\/code><\/pre>\n<h4>7.4 \u041f\u0440\u0438\u043c\u0435\u0440 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 (\u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442 flink-conf.yaml \u043f\u043e\u0441\u043b\u0435)<\/h4>\n<pre><code class=\"yaml\"># Java 17 runtime (\u0431\u0430\u0437\u043e\u0432\u044b\u0439 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440) taskmanager.numberOfTaskSlots: 4 execution.checkpointing.interval: 30s state.backend: rocksdb state.backend.incremental: true state.checkpoints.dir: s3:\/\/my-bucket\/flink\/ckpts state.savepoints.dir: s3:\/\/my-bucket\/flink\/savepoints # \u041f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0430 \u043a \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0438 \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f (\u043a\u043e\u043d\u0446\u0435\u043f\u0442\u0443\u0430\u043b\u044c\u043d\u043e) # experimental.state.remote.cache-size: 8g   # (\u043f\u0440\u0438\u043c\u0435\u0440 \u0433\u0438\u043f\u043e\u0442\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043a\u043b\u044e\u0447\u0430 \u2013 \u041d\u0415 \u0438\u0437 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438) # NOTE: \u043a\u043b\u044e\u0447 \u0432\u044b\u0448\u0435 \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0439; \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0435 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0443\u0442\u043e\u0447\u043d\u044f\u0439\u0442\u0435 \u043f\u043e \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0440\u0435\u043b\u0438\u0437\u0430. <\/code><\/pre>\n<p>(\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043a\u043b\u044e\u0447\u0438 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u044b \u0442\u043e\u043b\u044c\u043a\u043e \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0442\u0438\u0432\u043d\u043e \u2014 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0439\u0442\u0435 \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044e \u043f\u0435\u0440\u0435\u0434 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c.) <\/p>\n<h4>7.5 \u041f\u0440\u0438\u043c\u0435\u0440 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432 \u043f\u0438\u043b\u043e\u0442\u0430 (\u0443\u0441\u043b\u043e\u0432\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435)<\/h4>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041c\u0435\u0442\u0440\u0438\u043a\u0430<\/p>\n<\/th>\n<th>\n<p align=\"left\">1.20.x<\/p>\n<\/th>\n<th>\n<p align=\"left\">2.0<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0418\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">p95 E2E latency<\/p>\n<\/td>\n<td>\n<p align=\"left\">420 ms<\/p>\n<\/td>\n<td>\n<p align=\"left\">310 ms<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u221226%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u0440\u0435\u0434\u043d\u0435\u0435 \u0432\u0440\u0435\u043c\u044f checkpoint<\/p>\n<\/td>\n<td>\n<p align=\"left\">18 s<\/p>\n<\/td>\n<td>\n<p align=\"left\">14 s<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u221222%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Recovery \u043f\u043e\u0441\u043b\u0435 \u0441\u0431\u043e\u044f (100 GB state)<\/p>\n<\/td>\n<td>\n<p align=\"left\">11 \u043c\u0438\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">6 \u043c\u0438\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u221245%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">State size (\u0438\u043d\u043a\u0440\u0435\u043c. \u0441\u043d\u0430\u043f\u0448\u043e\u0442)<\/p>\n<\/td>\n<td>\n<p align=\"left\">100 GB<\/p>\n<\/td>\n<td>\n<p align=\"left\">92 GB<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u22128%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c\/\u0447\u0430\u0441 (\u0443\u0437\u043b\u044b m5.4xlarge \u044d\u043a\u0432.)<\/p>\n<\/td>\n<td>\n<p align=\"left\">100%<\/p>\n<\/td>\n<td>\n<p align=\"left\">84%<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u221216%<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041f\u0440\u0438\u0432\u0435\u0434\u0451\u043d\u043d\u044b\u0435 \u0446\u0438\u0444\u0440\u044b \u2014 \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0439 \u043f\u0440\u0438\u043c\u0435\u0440: \u043c\u0435\u0442\u043e\u0434\u043e\u043b\u043e\u0433\u0438\u044f: \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 150K msg\/s, Kafka \u2192 Flink \u2192 Iceberg; \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 p95 \u0441\u0432\u044f\u0437\u0430\u043d\u044b \u0441 \u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435\u043c \u043e\u0432\u0435\u0440\u0445\u0435\u0434\u0430 sink \u0438 \u043a\u043e\u043d\u0444\u0438\u0433-\u0443\u043d\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439 (\u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0438 \u0446\u0438\u0442\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u043b\u0438\u0448\u044c \u0434\u043b\u044f \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u044b\u0445 \u0430\u0441\u043f\u0435\u043a\u0442\u043e\u0432, \u0430 \u043d\u0435 \u0434\u043b\u044f \u0441\u0430\u043c\u0438\u0445 \u0447\u0438\u0441\u0435\u043b). <\/p>\n<h3>8. \u0423\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c\u044e \u0438 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c<\/h3>\n<p>\u0414\u0438\u0437\u0430\u0433\u0440\u0435\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 \u0443\u043d\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f sink \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 \u043f\u043b\u043e\u0442\u043d\u0435\u0435 \u0443\u043f\u0430\u043a\u043e\u0432\u044b\u0432\u0430\u0442\u044c TaskManager-\u044b (\u043c\u0435\u043d\u044c\u0448\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0434\u0438\u0441\u043a\u043e\u0432\u043e\u0433\u043e state), \u0443\u0441\u043a\u043e\u0440\u044f\u044f \u0440\u0435\u0441\u043a\u0435\u0439\u043b \u0438 \u0441\u043d\u0438\u0436\u0430\u044f \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u043f\u0440\u0438 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f\u0445 \u0432\u0435\u0440\u0441\u0438\u0439; \u0443\u0434\u0430\u043b\u0435\u043d\u0438\u0435 \u0443\u0441\u0442\u0430\u0440\u0435\u0432\u0448\u0438\u0445 API \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442 \u043c\u0430\u0442\u0440\u0438\u0446\u0443 \u0442\u0435\u0441\u0442\u043e\u0432 \u0438 \u043a\u043e\u0441\u0432\u0435\u043d\u043d\u043e \u0441\u043d\u0438\u0436\u0430\u0435\u0442 \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u043d\u044b\u0435 \u0447\u0430\u0441\u044b \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438. citeturn0search4turn0search6turn0search7\ue201<\/p>\n<h3>9. \u0420\u0438\u0441\u043a\u0438 \u0438 \u043e\u0441\u0442\u043e\u0440\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438 \u0430\u043f\u0433\u0440\u0435\u0439\u0434\u0435<\/h3>\n<ul>\n<li>\n<p>\u041f\u0440\u0435\u0434\u043f\u0440\u043e\u0441\u043c\u043e\u0442\u0440\u043e\u0432\u044b\u0435 \/ \u044d\u0432\u043e\u043b\u044e\u0446\u0438\u043e\u043d\u0438\u0440\u0443\u044e\u0449\u0438\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 state separation \u0435\u0449\u0451 \u043c\u043e\u0433\u0443\u0442 \u043c\u0435\u043d\u044f\u0442\u044c \u043a\u043e\u043d\u0442\u0440\u0430\u043a\u0442 \u2014 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0439\u0442\u0435 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e\u0441\u0442\u044c. <\/p>\n<\/li>\n<li>\n<p>\u041d\u0435\u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u0430\u0434\u0430\u043f\u0442\u0430\u0446\u0438\u044f Unified Sink \u043c\u043e\u0436\u0435\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0442\u044c \u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c (\u043f\u0435\u0440\u0432\u043e\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u044b\u0439 \u0442\u044e\u043d\u0438\u043d\u0433 \u0431\u0443\u0444\u0435\u0440\u043e\u0432). <\/p>\n<\/li>\n<li>\n<p>\u041f\u0435\u0440\u0435\u0445\u043e\u0434 \u043d\u0430 Java 17\/21 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043f\u0435\u0440\u0435\u0441\u043c\u043e\u0442\u0440\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 GC \u0438 \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u043e\u0441\u0442\u0438 \u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0438\u0445 \u043a\u043e\u043d\u043d\u0435\u043a\u0442\u043e\u0440\u043e\u0432. <\/p>\n<\/li>\n<li>\n<p>\u0414\u043e\u043b\u0433\u0438\u0439 \u0445\u0432\u043e\u0441\u0442 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 1.20 (LTS) \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0442\u044c \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0439 \u043f\u0435\u0440\u0435\u0445\u043e\u0434 (\u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u0430\u044f \u044d\u043a\u0441\u043f\u043b\u0443\u0430\u0442\u0430\u0446\u0438\u044f \u0434\u0432\u0443\u0445 \u043b\u0438\u043d\u0438\u0439). <\/p>\n<\/li>\n<\/ul>\n<h3>10. \u0420\u043e\u0443\u0434\u043c\u0430\u043f \u0438 \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0433\u043e\u0440\u0438\u0437\u043e\u043d\u0442<\/h3>\n<p>\u041e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 roadmap \u0438 \u0440\u0435\u043b\u0438\u0437\u043d\u044b\u0435 \u043f\u043b\u0430\u043d\u044b \u043f\u043e\u0434\u0447\u0451\u0440\u043a\u0438\u0432\u0430\u044e\u0442 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435 \u043a\u0443\u0440\u0441\u0430 \u043d\u0430 \u0443\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u0435, \u0440\u0430\u0437\u0431\u0438\u0435\u043d\u0438\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0438 \u043c\u043e\u0434\u0435\u0440\u043d\u0438\u0437\u0430\u0446\u0438\u044e \u044d\u043a\u043e\u0441\u0438\u0441\u0442\u0435\u043c\u044b \u043a\u043e\u043d\u043d\u0435\u043a\u0442\u043e\u0440\u043e\u0432; \u0434\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0435\u0440\u0438\u043e\u0434 \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0438 2.0 \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0435\u0442 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0441\u0442\u044c \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0430 \u0438 \u043e\u0431\u044a\u0451\u043c \u0438\u043d\u0432\u0435\u0441\u0442\u0438\u0446\u0438\u0439 \u0432 \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f.<\/p>\n<h3>11. \u0420\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0438 \u043f\u043e \u043f\u0440\u0438\u043d\u044f\u0442\u0438\u044e \u0440\u0435\u0448\u0435\u043d\u0438\u0439<\/h3>\n<ol>\n<li>\n<p><strong>\u0415\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0435\u0432\u044b\u0435 Spark \u0434\u0436\u043e\u0431\u044b \u0441 SLA &lt;500 ms<\/strong> \u2014 \u043e\u0446\u0435\u043d\u0438\u0442\u0435 \u043c\u0438\u0433\u0440\u0430\u0446\u0438\u044e \u0443\u0437\u043a\u0438\u0445 \u043c\u0435\u0441\u0442 \u0432 Flink 2.0 \u0434\u043b\u044f \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u043d\u044b\u0445 low-latency \u0430\u0433\u0440\u0435\u0433\u0430\u0442\u043e\u0432, \u043e\u0441\u0442\u0430\u0432\u0438\u0432 \u0442\u044f\u0436\u0451\u043b\u044b\u0439 batch \u043d\u0430 Spark (\u0433\u0438\u0431\u0440\u0438\u0434). <\/p>\n<\/li>\n<li>\n<p><strong>\u0415\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 Kafka Streams \u0441 \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435\u043c \u0438 \u0447\u0430\u0441\u0442\u044b\u043c\u0438 \u0440\u0435\u0431\u0430\u043b\u0430\u043d\u0441\u0430\u043c\u0438<\/strong> \u2014 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u0442\u0435 \u043f\u0435\u0440\u0435\u043d\u043e\u0441 stateful join\/aggregation \u0432 Flink \u0434\u043b\u044f \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u044f recovery. <\/p>\n<\/li>\n<li>\n<p><strong>\u0421\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f AI\/LLM<\/strong>: \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0439\u0442\u0435 Materialized Tables \u043a\u0430\u043a \u0441\u043b\u043e\u0439 \u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 + Table API \u0434\u043b\u044f \u00ab\u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430\u00bb \u0438\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043e\u043a\u043e\u043d. (\u0427\u0430\u0441\u0442\u044c \u2014 \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043e\u0431\u043e\u0431\u0449\u0435\u043d\u0438\u0435.) <\/p>\n<\/li>\n<li>\n<p><strong>\u0412\u044b\u0434\u0435\u043b\u0438\u0442\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0442\u0435\u0440<\/strong>: \u043d\u0430\u0447\u0438\u043d\u0430\u0442\u044c \u0441 \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u044b\u0445 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d\u043e\u0432 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u226550 GB, \u0433\u0434\u0435 \u0432\u044b\u0438\u0433\u0440\u044b\u0448 \u043e\u0442 \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u043d\u043e\u0433\u043e recovery \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u0435\u043d. <\/p>\n<\/li>\n<\/ol>\n<h3>12. \u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435<\/h3>\n<p>Flink 2.0 \u0441\u0434\u0432\u0438\u0433\u0430\u0435\u0442 \u043f\u0430\u0440\u0430\u0434\u0438\u0433\u043c\u0443: \u0432\u043c\u0435\u0441\u0442\u043e \u00ab\u043a\u043e\u043c\u0431\u0430\u0439\u043d\u0430\u00bb \u0440\u0430\u0437\u043d\u043e\u0448\u0451\u0440\u0441\u0442\u043d\u044b\u0445 API \u2014 \u0443\u043f\u043b\u043e\u0449\u0451\u043d\u043d\u0430\u044f, \u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u0438\u0440\u0443\u0435\u043c\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430, \u0433\u0434\u0435 \u0430\u043a\u0446\u0435\u043d\u0442 \u0441\u043c\u0435\u0449\u0451\u043d \u043d\u0430 \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u043c\u043e\u0441\u0442\u044c \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f, \u0443\u043d\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044e \u0434\u0435\u043a\u043b\u0430\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u0443\u0440\u043e\u0432\u043d\u0435\u0439 \u0438 \u0433\u043e\u0442\u043e\u0432\u043d\u043e\u0441\u0442\u044c \u043a AI-\u0438\u043d\u0442\u0435\u0433\u0440\u0430\u0446\u0438\u0438. \u042d\u0442\u043e \u0441\u043d\u0438\u0436\u0430\u0435\u0442 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0432\u043b\u0430\u0434\u0435\u043d\u0438\u044f \u0438 \u0440\u0430\u0441\u043a\u0440\u044b\u0432\u0430\u0435\u0442 \u043d\u043e\u0432\u044b\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u0432 \u043e\u0431\u043b\u0430\u043a\u0435 \u043f\u0440\u0438 \u0441\u043e\u0445\u0440\u0430\u043d\u0435\u043d\u0438\u0438 \u0441\u0438\u043b\u044c\u043d\u044b\u0445 \u0441\u0442\u043e\u0440\u043e\u043d Flink \u2014 event-time \u0441\u0435\u043c\u0430\u043d\u0442\u0438\u043a\u0438 \u0438 \u0431\u043e\u0433\u0430\u0442\u043e\u0433\u043e \u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440\u0430 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f. <\/p>\n<p><strong>\u041f\u0440\u0438\u043c\u0435\u0447\u0430\u043d\u0438\u0435<\/strong>: \u041f\u0440\u043e\u0432\u0435\u0440\u044f\u0439\u0442\u0435 \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u044b\u0435 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0435 \u043a\u043b\u044e\u0447\u0438 \u0438 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0432 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043c\u0438\u043d\u043e\u0440\u043d\u043e\u0433\u043e \u0440\u0435\u043b\u0438\u0437\u0430 2.x \u043f\u0435\u0440\u0435\u0434 \u043f\u0440\u043e\u0434\u0430\u043a\u0448\u043d\u2011\u0432\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435\u043c.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/929222\/\"> https:\/\/habr.com\/ru\/articles\/929222\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<h3>\u0410\u043d\u043d\u043e\u0442\u0430\u0446\u0438\u044f<\/h3>\n<p>Apache Flink 2.0 \u2014 \u043f\u0435\u0440\u0432\u044b\u0439 \u043c\u0430\u0436\u043e\u0440\u043d\u044b\u0439 \u0440\u0435\u043b\u0438\u0437 \u043f\u043e\u0441\u043b\u0435 1.0 (2016), \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u044e\u0449\u0438\u0439 \u043c\u043d\u043e\u0433\u043e\u043b\u0435\u0442\u043d\u0438\u0439 \u0446\u0438\u043a\u043b \u044d\u0432\u043e\u043b\u044e\u0446\u0438\u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0438 \u0443\u0441\u0442\u0440\u0430\u043d\u044f\u044e\u0449\u0438\u0439 \u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u043d\u044b\u0435 \u0431\u043e\u043b\u0435\u0432\u044b\u0435 \u0442\u043e\u0447\u043a\u0438 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u0445 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c: \u0443\u0441\u043b\u043e\u0436\u043d\u044f\u044e\u0449\u0443\u044e\u0441\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044e, \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f, \u0440\u0430\u0437\u0440\u044b\u0432 \u043c\u0435\u0436\u0434\u0443 batch \u0438 streaming, \u0443\u0441\u0442\u0430\u0440\u0435\u0432\u0448\u0438\u0435 API \u0438 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u0443\u044e \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u043f\u0440\u0438 \u0440\u043e\u0441\u0442\u0435 AI\/real\u2011time \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0435\u0432. \u0412 \u043a\u043e\u043c\u0430\u043d\u0434\u0435 BitDive \u043c\u044b \u0443\u0436\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c Flink 2.0 \u0434\u043b\u044f \u043d\u0438\u0437\u043a\u043e\u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u0445 \u043c\u0435\u0442\u0440\u0438\u043a \u0438 \u0442\u0440\u0430\u0441\u0441\u0438\u0440\u043e\u0432\u043e\u043a (\u0430\u0433\u0440\u0435\u0433\u0430\u0446\u0438\u044f, \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0430\u043d\u043e\u043c\u0430\u043b\u0438\u0439) \u2014 \u044d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u043b\u043e \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u044c recovery \u0438 \u0441\u043d\u0438\u0437\u0438\u0442\u044c \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 \u043b\u0438\u043d\u0438\u0435\u0439 1.20.x. <\/p>\n<h3>1. \u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0438\u043d\u0434\u0443\u0441\u0442\u0440\u0438\u0438 \u0438 \u043c\u043e\u0442\u0438\u0432\u0430\u0446\u0438\u044f<\/h3>\n<p>\u0421\u043f\u0440\u043e\u0441 \u043d\u0430 \u043c\u0438\u043b\u0438\u0441\u0435\u043a\u0443\u043d\u0434\u043d\u0443\u044e \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0440\u0435\u0430\u043a\u0446\u0438\u044e \u0438 \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u0446\u0438\u044e \u0441 AI\/LLM \u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440\u0430\u043c\u0438 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u044e\u0442 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435\u043c, \u0433\u0438\u0431\u043a\u043e \u0440\u0435\u0441\u043a\u0435\u0439\u043b\u044f\u0442\u0441\u044f \u0438 \u0434\u0430\u044e\u0442 \u0434\u0435\u043a\u043b\u0430\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c (SQL \/ Materialized Tables) \u043f\u043e\u0432\u0435\u0440\u0445 \u043d\u0438\u0437\u043a\u043e\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u043e\u0433\u043e DataStream \u2014 \u0431\u0435\u0437 \u0440\u0430\u0437\u0440\u044b\u0432\u043e\u0432 \u043c\u0435\u0436\u0434\u0443 \u043f\u0430\u043a\u0435\u0442\u043d\u043e\u0439 \u0438 \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u043e\u0439. <\/p>\n<h3>2. \u041a\u043b\u044e\u0447\u0435\u0432\u044b\u0435 \u0431\u043e\u043b\u0435\u0432\u044b\u0435 \u0442\u043e\u0447\u043a\u0438 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u0445 \u0440\u0435\u0448\u0435\u043d\u0438\u0439<\/h3>\n<ol>\n<li>\n<p><strong>\u041e\u043f\u0435\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u0438 \u0440\u0430\u0437\u043d\u043e\u0440\u043e\u0434\u043d\u043e\u0441\u0442\u044c API<\/strong> (\u0443\u0441\u0442\u0430\u0440\u0435\u0432\u0448\u0438\u0435 DataSet \/ Scala API, \u0440\u0430\u0437\u0440\u043e\u0437\u043d\u0435\u043d\u043d\u044b\u0435 sink-\u0438) \u0443\u0445\u0443\u0434\u0448\u0430\u043b\u0438 \u043a\u0440\u0438\u0432\u0443\u044e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u043f\u043e\u0432\u044b\u0448\u0430\u043b\u0438 TCO. <\/p>\n<\/li>\n<li>\n<p><strong>\u0421\u0432\u044f\u0437\u043a\u0430 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0438 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0430 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f<\/strong> \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u043b\u0430 \u043c\u0430\u0441\u0448\u0442\u0430\u0431 (\u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u043f\u0430\u043c\u044f\u0442\u044c \/ \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u0434\u0438\u0441\u043a\u0438), \u0443\u0441\u043b\u043e\u0436\u043d\u044f\u043b\u0430 \u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u0440\u0435\u0441\u043a\u0435\u0439\u043b \u0438 \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435. <\/p>\n<\/li>\n<li>\n<p><strong>\u041d\u0435\u0441\u043e\u0433\u043b\u0430\u0441\u043e\u0432\u0430\u043d\u043d\u043e\u0441\u0442\u044c batch\/stream \u043c\u043e\u0434\u0435\u043b\u0438<\/strong> \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 API \u0438 \u0443\u0441\u043b\u043e\u0436\u043d\u044f\u043b\u0430 \u0441\u043e\u0432\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u0438\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u043f\u0435\u0440\u0435\u0438\u0433\u0440\u043e\u0432\u043a\u0438 \u0441 \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u044b\u043c \u043f\u043e\u0442\u043e\u043a\u043e\u043c. <\/p>\n<\/li>\n<li>\n<p><strong>\u0417\u0430\u0434\u0435\u0440\u0436\u043a\u0438 \u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0435\u0439<\/strong> \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u0434\u0432\u0438\u0436\u043a\u0430\u0445 (Spark Structured Streaming) \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u044e\u0442 \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u043e\u0447\u043d\u044b\u0439 \u043e\u0432\u0435\u0440\u0445\u0435\u0434 \u043f\u0440\u0438 \u043e\u0447\u0435\u043d\u044c \u043d\u0438\u0437\u043a\u0438\u0445 SLA, \u0445\u043e\u0442\u044f \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0441\u043d\u0438\u0437\u0438\u043b\u0438 \u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u0434\u043e \u0441\u043e\u0442\u0435\u043d \u043c\u0438\u043b\u043b\u0438\u0441\u0435\u043a\u0443\u043d\u0434. <\/p>\n<\/li>\n<li>\n<p><strong>\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u0432\u0448\u0438\u0442\u044b\u0439 state (Kafka Streams + RocksDB)<\/strong> \u0443\u0441\u043a\u043e\u0440\u044f\u0435\u0442 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0438, \u043d\u043e \u0443\u0441\u043b\u043e\u0436\u043d\u044f\u0435\u0442 \u0440\u0435\u0441\u0442\u043e\u0440 \/ \u0440\u0435\u0431\u0430\u043b\u0430\u043d\u0441 \u0438 \u0434\u0430\u0451\u0442 \u00ab\u0448\u0438\u043f\u044b\u00bb \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f. <\/p>\n<\/li>\n<li>\n<p><strong>\u0414\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0430\u043f\u0433\u0440\u0435\u0439\u0434\u043d\u044b\u0439 \u0445\u0432\u043e\u0441\u0442 1.x<\/strong> (\u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 1.20 \u043a\u0430\u043a LTS) \u0442\u043e\u0440\u043c\u043e\u0437\u0438\u043b \u0432\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435 \u0438\u043d\u043d\u043e\u0432\u0430\u0446\u0438\u0439. <\/p>\n<\/li>\n<\/ol>\n<h3>3. \u0427\u0442\u043e \u043f\u0440\u0438\u043d\u043e\u0441\u0438\u0442 Flink 2.0 (\u043e\u0431\u0437\u043e\u0440 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439)<\/h3>\n<ul>\n<li>\n<p><strong>\u0423\u0434\u0430\u043b\u0435\u043d\u0438\u0435 \u0443\u0441\u0442\u0430\u0440\u0435\u0432\u0448\u0438\u0445 API<\/strong> (DataSet, Scala DataStream\/DataSet) \u2192 \u0435\u0434\u0438\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u0438\u0435 \u0438 \u0441\u043d\u0438\u0436\u0435\u043d\u0438\u0435 \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u043d\u043e\u0439 \u043f\u043b\u043e\u0449\u0430\u0434\u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438. <\/p>\n<\/li>\n<li>\n<p><strong>\u0423\u043d\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f \u0438 \u043c\u043e\u0434\u0435\u0440\u043d\u0438\u0437\u0430\u0446\u0438\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \/ Unified Sink API \/ Materialized Tables<\/strong> \u0434\u043b\u044f \u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u043e\u0433\u043e DX \u0438 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0439. <\/p>\n<\/li>\n<li>\n<p><strong>Java 17 \u043a\u0430\u043a \u0434\u0435\u0444\u043e\u043b\u0442 + \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 Java 21; \u043e\u0442\u043a\u0430\u0437 \u043e\u0442 Java 8<\/strong> \u2014 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 JVM \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0439 (GC \/ vector API \u0438 \u0442.\u043f.). <\/p>\n<\/li>\n<li>\n<p><strong>\u0414\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0435\u0440\u0438\u043e\u0434 \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0438 (\u22482 \u0433\u043e\u0434\u0430, 25 FIP, \u0441\u043e\u0442\u043d\u0438 \u0444\u0438\u043a\u0441\u043e\u0432)<\/strong> \u043f\u043e\u0434\u0447\u0451\u0440\u043a\u0438\u0432\u0430\u0435\u0442 \u0433\u043b\u0443\u0431\u0438\u043d\u0443 \u0440\u0435\u0444\u0430\u043a\u0442\u043e\u0440\u0438\u043d\u0433\u0430. <\/p>\n<\/li>\n<li>\n<p><strong>\u0414\u0438\u0437\u0430\u0433\u0440\u0435\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 (separation compute\/storage)<\/strong> \u2014 \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u0435\u043c\u043e\u0441\u0442\u0438 \u0438 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0447\u043d\u043e\u0441\u0442\u0438. (\u0427\u0430\u0441\u0442\u044c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0435\u0439 \u043f\u043e\u0441\u0442\u0443\u043f\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0432\u043d\u0435\u0434\u0440\u044f\u0435\u0442\u0441\u044f; \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0430\u0441\u043f\u0435\u043a\u0442\u044b \u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u044d\u0432\u043e\u043b\u044e\u0446\u0438\u043e\u043d\u0438\u0440\u0443\u044e\u0449\u0438\u043c\u0438.) <\/p>\n<\/li>\n<\/ul>\n<h3>4. \u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u044b\u0435 \u0430\u043a\u0446\u0435\u043d\u0442\u044b Flink 2.0<\/h3>\n<h4>4.1 \u0423\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u0435 API \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u0438<\/h4>\n<p>\u041a\u043e\u043d\u0441\u043e\u043b\u0438\u0434\u0430\u0446\u0438\u044f \u0432\u043e\u043a\u0440\u0443\u0433 DataStream + Table\/SQL \u0441\u043d\u0438\u0436\u0430\u0435\u0442 \u043a\u043e\u0433\u043d\u0438\u0442\u0438\u0432\u043d\u0443\u044e \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u0438 \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442 \u043e\u0434\u0438\u043d \u043f\u0443\u0442\u044c \u043c\u0438\u0433\u0440\u0430\u0446\u0438\u0438 batch-\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d\u043e\u0432 (\u0431\u044b\u0432\u0448\u0438\u0445 DataSet) \u0432 \u0431\u043e\u043b\u0435\u0435 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u044b\u0439 \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0449\u0438\u043a\u043e\u043c \u0441\u043b\u043e\u0439. <\/p>\n<h4>4.2 \u0423\u043d\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f batch \u0438 streaming<\/h4>\n<p>\u041b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u043b\u0430\u043d \u0441\u0442\u0440\u043e\u0438\u0442\u0441\u044f \u0435\u0434\u0438\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u043d\u043e, \u0447\u0442\u043e \u043e\u0431\u043b\u0435\u0433\u0447\u0430\u0435\u0442 backfill: \u0438\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0441\u0435\u0433\u043c\u0435\u043d\u0442 \u043f\u043e\u0434\u0430\u0451\u0442\u0441\u044f \u043a\u0430\u043a bounded stream \u0438 \u0441\u0448\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0441 live \u043f\u043e\u0442\u043e\u043a\u043e\u043c \u0431\u0435\u0437 \u0441\u043c\u0435\u043d\u044b \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0430. <\/p>\n<h4>4.3 \u0414\u0438\u0437\u0430\u0433\u0440\u0435\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435<\/h4>\n<p>\u041e\u0442\u0432\u044f\u0437\u043a\u0430 \u0436\u0438\u0437\u043d\u0435\u043d\u043d\u043e\u0433\u043e \u0446\u0438\u043a\u043b\u0430 state \u043e\u0442 TaskManager \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u0442\u044c compute \u0433\u043e\u0440\u0438\u0437\u043e\u043d\u0442\u0430\u043b\u044c\u043d\u043e \u0431\u0435\u0437 \u00ab\u043f\u0435\u0440\u0435\u043b\u0438\u0432\u043a\u0438\u00bb \u043e\u0433\u0440\u043e\u043c\u043d\u044b\u0445 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 RocksDB, \u0443\u0441\u043a\u043e\u0440\u044f\u044f recovery \u0438 \u0441\u043d\u0438\u0436\u0430\u044f \u0434\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 SSD. (\u0412\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435 \u043f\u043e\u044d\u0442\u0430\u043f\u043d\u043e; \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u044e \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u044e\u0442 \u043f\u0443\u0431\u043b\u0438\u043a\u0430\u0446\u0438\u0438 \u043e separation architecture.) <\/p>\n<h4>4.4 \u041c\u043e\u0434\u0435\u0440\u043d\u0438\u0437\u0430\u0446\u0438\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f<\/h4>\n<p>\u041f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0442\u0438\u043f\u043e\u0432 (Duration\/Enum \u0432\u043c\u0435\u0441\u0442\u043e \u0441\u0442\u0440\u043e\u043a), \u043e\u0447\u0438\u0441\u0442\u043a\u0430 \u0443\u0441\u0442\u0430\u0440\u0435\u0432\u0448\u0438\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0438 \u0443\u043d\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 sink-\u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0446\u0438\u0438 \u0441\u043d\u0438\u0436\u0430\u044e\u0442 \u0440\u0438\u0441\u043a \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u043d\u0435\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u043e\u0441\u0442\u0435\u0439 \u0438 \u0443\u043f\u0440\u043e\u0449\u0430\u044e\u0442 \u0430\u0432\u0442\u043e\u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e \u043a\u043e\u043d\u0444\u0438\u0433\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u043c\u0438 DevOps\/AI.<\/p>\n<h4>4.5 \u041f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 JVM<\/h4>\n<p>\u0414\u0435\u0444\u043e\u043b\u0442 Java 17 \u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 Java 21 \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u044e\u0442 \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u043d\u043e\u043c\u0443 JIT, CDS, ZGC\/Shenandoah \u0438 \u0443\u043f\u0440\u043e\u0449\u0430\u044e\u0442 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u043d\u0443\u044e \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044e.<\/p>\n<h3>5. \u0421\u0446\u0435\u043d\u0430\u0440\u0438\u0438 AI \/ Real-Time<\/h3>\n<p>\u0414\u043b\u044f LLM-\u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u0438 feature engineering \u0432\u0430\u0436\u043d\u043e: (a) \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u0430\u044f \u043d\u0438\u0437\u043a\u0430\u044f \u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u0431\u0435\u0437 \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0435\u0432\u044b\u0445 \u0431\u0430\u0440\u044c\u0435\u0440\u043e\u0432, (b) \u0431\u044b\u0441\u0442\u0440\u043e\u0435 \u044d\u043b\u0430\u0441\u0442\u0438\u0447\u043d\u043e\u0435 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u043e\u0434 \u00ab\u0448\u0442\u043e\u0440\u043c\u0430\u00bb \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, (c) \u043c\u0430\u0442\u0435\u0440\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0441\u0440\u0435\u0437\u043e\u0432 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \/ \u0430\u0433\u0440\u0435\u0433\u0430\u0442\u043e\u0432 \u0432 near-real-time. \u0423\u043d\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 Materialized Tables \u0438 \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u044e\u0442 \u043e\u0441\u043d\u043e\u0432\u0443 \u0434\u043b\u044f \u043f\u043e\u0442\u043e\u043a\u043e\u0432\u043e\u0433\u043e feature store \u0438 on-demand backfill. (\u0427\u0430\u0441\u0442\u044c \u0432\u044b\u0432\u043e\u0434\u043e\u0432 \u2014 \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u044d\u043a\u0441\u0442\u0440\u0430\u043f\u043e\u043b\u044f\u0446\u0438\u044f, \u0430 \u043d\u0435 \u043f\u0440\u044f\u043c\u044b\u0435 \u0446\u0438\u0442\u0430\u0442\u044b.) <\/p>\n<h3>6. \u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0441 Spark Structured Streaming \u0438 Kafka Streams<\/h3>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041a\u0440\u0438\u0442\u0435\u0440\u0438\u0439<\/p>\n<\/th>\n<th>\n<p align=\"left\">Flink 2.0<\/p>\n<\/th>\n<th>\n<p align=\"left\">Spark Structured Streaming<\/p>\n<\/th>\n<th>\n<p align=\"left\">Kafka Streams<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041c\u043e\u0434\u0435\u043b\u044c \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u044b\u0439 \u043f\u043e\u0442\u043e\u043a (event-at-a-time \u0432\u043d\u0443\u0442\u0440\u0438 \u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440\u0430)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0438 (\u0435\u0441\u0442\u044c continuous mode, \u043d\u043e \u0440\u0435\u0436\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0411\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430 \u043f\u043e\u0432\u0435\u0440\u0445 Kafka \u0431\u0440\u043e\u043a\u0435\u0440\u0430<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u0442\u0438\u043f\u043e\u0432\u0430\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041c\u0438\u043b\u043b\u0438\u0441\u0435\u043a\u0443\u043d\u0434\u044b\u2013\u0434\u0435\u0441\u044f\u0442\u043a\u0438 (\u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440\u0430\/\u0441\u0435\u0442\u043a\u0438)<\/p>\n<\/td>\n<td>\n<p align=\"left\">100\u2013250+ ms \u0432 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f\u0445 \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0435\u0439 (sub\u2011second)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0438\u0437\u043a\u0430\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e (RocksDB + \u0431\u0435\u0437 \u0441\u0435\u0442\u0435\u0432\u044b\u0445 \u0432\u044b\u0437\u043e\u0432\u043e\u0432)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0423\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435\u043c<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u042d\u0432\u043e\u043b\u044e\u0446\u0438\u044f \u043a disaggregated + \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442\u044b \/ \u0438\u043d\u043a\u0440\u0435\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0441\u043d\u0430\u043f\u0448\u043e\u0442\u044b<\/p>\n<\/td>\n<td>\n<p align=\"left\">State \u0432 \u044d\u043a\u0437\u0435\u043a\u044c\u044e\u0442\u043e\u0440\u0430\u0445 + WAL; \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0435\u0432\u044b\u0435 \u0433\u0440\u0430\u043d\u0438\u0446\u044b<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 RocksDB + changelog topic<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Recovery \/ \u0440\u0435\u0441\u043a\u0435\u0439\u043b<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0423\u0441\u043a\u043e\u0440\u044f\u0435\u0442\u0441\u044f \u0437\u0430 \u0441\u0447\u0451\u0442 separation (\u043c\u0435\u043d\u044c\u0448\u0435 \u043f\u0435\u0440\u0435\u043b\u0438\u0432\u043e\u043a)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0417\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0430 \u0438 shuffle<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0420\u0435\u0441\u0442\u043e\u0440 RocksDB \u0438\u0437 changelog (\u0434\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0440\u0435\u0431\u0430\u043b\u0430\u043d\u0441\u044b)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0423\u043d\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f batch\/stream<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0415\u0434\u0438\u043d\u044b\u0439 \u0438\u0441\u043f\u043e\u043b\u043d. \u043f\u043b\u0430\u043d &amp; Table\/SQL<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0415\u0434\u0438\u043d\u044b\u0439 API (SQL\/DataFrame) \u043d\u043e \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447 \u043f\u0440\u0438\u0440\u043e\u0434\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442 batch; \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u0435 \u0442\u043e\u043f\u0438\u043a\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">API \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u044c<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u0444\u043e\u043a\u0443\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u0430 (DataStream + Table\/SQL)<\/p>\n<\/td>\n<td>\n<p align=\"left\">SQL\/DataFrame + Dataset (\u0443\u0441\u0442\u0430\u0440.), RDD \u043d\u0438\u0437\u043a\u043e\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u044b\u0439<\/p>\n<\/td>\n<td>\n<p align=\"left\">Java DSL (Topology)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0422\u0438\u043f\u0438\u0447\u043d\u044b\u0435 \u0431\u043e\u043b\u0438<\/p>\n<\/td>\n<td>\n<p align=\"left\">(\u0421\u043c\u044f\u0433\u0447\u0430\u044e\u0442\u0441\u044f) \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c state, \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0439 \u0442\u044e\u043d\u0438\u043d\u0433<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0422\u044e\u043d\u0438\u043d\u0433 batch interval, \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0449\u0438\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0420\u0435\u0441\u0442\u043e\u0440\/\u0440\u0435\u0431\u0430\u043b\u0430\u043d\u0441 state, tuning RocksDB<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">(\u0421\u043c. \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 \u0440\u0430\u0437\u0431\u043e\u0440 \u043d\u0438\u0436\u0435.)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>Flink 2.0 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u0442 API-\u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044e \u0438 \u0434\u0432\u0438\u0436\u0435\u0442\u0441\u044f \u043a \u043e\u0442\u0434\u0435\u043b\u0435\u043d\u0438\u044e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f, Spark \u0441\u043d\u0438\u0436\u0430\u0435\u0442 \u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0435\u0439 \u0434\u043e \u0441\u043e\u0442\u0435\u043d \u043c\u0438\u043b\u043b\u0438\u0441\u0435\u043a\u0443\u043d\u0434 \u0438 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442 SQL-\u0443\u043d\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0441\u0442\u044c, Kafka Streams \u0443\u043f\u0440\u043e\u0449\u0430\u0435\u0442 \u0434\u0435\u043f\u043b\u043e\u0439 \u043a\u0430\u043a \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430, \u043d\u043e \u043f\u043b\u0430\u0442\u0438\u0442 \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c\u044e \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f \u0438 \u0442\u044e\u043d\u0438\u043d\u0433\u043e\u043c RocksDB. <\/p>\n<h3>7. \u041c\u0435\u0442\u043e\u0434\u043e\u043b\u043e\u0433\u0438\u044f \u0438 \u043f\u0440\u0438\u043c\u0435\u0440 \u043f\u0438\u043b\u043e\u0442\u043d\u043e\u0439 \u043c\u0438\u0433\u0440\u0430\u0446\u0438\u0438 (1.20.x \u2192 2.0)<\/h3>\n<h4>7.1 \u0428\u0430\u0433\u0438 \u043c\u0438\u0433\u0440\u0430\u0446\u0438\u0438<\/h4>\n<ol>\n<li>\n<p><strong>\u0418\u043d\u0432\u0435\u043d\u0442\u0430\u0440\u0438\u0437\u0430\u0446\u0438\u044f API<\/strong>: \u0432\u044b\u044f\u0432\u0438\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 DataSet \/ Scala API \u2014 \u0437\u0430\u043c\u0435\u043d\u0438\u0442\u044c \u043d\u0430 Table\/SQL \u0438\u043b\u0438 DataStream. <\/p>\n<\/li>\n<li>\n<p><strong>\u041e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435 Java base image<\/strong> (\u0434\u043e 17, \u0442\u0435\u0441\u0442 \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u043e\u0441\u0442\u0438 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0435\u0439). <\/p>\n<\/li>\n<li>\n<p><strong>Unified Sink API<\/strong>: \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u0441\u043e \u0441\u0442\u0430\u0440\u044b\u0445 SinkFunction \u043d\u0430 \u043d\u043e\u0432\u044b\u0435 sink-\u043a\u043e\u043d\u043d\u0435\u043a\u0442\u043e\u0440\u044b (Iceberg, Kafka, \u0444\u0430\u0439\u043b\u043e\u0432\u044b\u0435). <\/p>\n<\/li>\n<li>\n<p><strong>\u041f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u043a\u043e\u043d\u0444\u0438\u0433\u043e\u0432<\/strong>: \u0430\u0434\u0430\u043f\u0442\u0430\u0446\u0438\u044f \u0442\u0438\u043f\u043e\u0432 Duration\/Enum; \u0447\u0438\u0441\u0442\u043a\u0430 deprecated \u043a\u043b\u044e\u0447\u0435\u0439. <\/p>\n<\/li>\n<li>\n<p><strong>State \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u044f<\/strong>: \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0430 \u043a \u0431\u0443\u0434\u0443\u0449\u0435\u043c\u0443 \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u044e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0432 \u0440\u0430\u0437\u0434\u0435\u043b\u0451\u043d\u043d\u043e\u043c \u0441\u0442\u043e\u0440\u0438\u0434\u0436\u0435 (s3\/hdfs + \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u043a\u0435\u0448). (\u041f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u043f\u0443\u0431\u043b\u0438\u0447\u043d\u044b\u0445 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0439 \u044d\u0432\u043e\u043b\u044e\u0446\u0438\u0438.)<\/p>\n<\/li>\n<li>\n<p><strong>\u0420\u0435\u0438\u043d\u0436\u0438\u043d\u0438\u0440\u0438\u043d\u0433 backfill<\/strong>: \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u043c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 batch \u0434\u0436\u043e\u0431\u044b \u043d\u0430 bounded stream + \u043f\u043e\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 switch \u043a unbounded. citeturn0search2turn0search7\ue201<\/p>\n<\/li>\n<li>\n<p><strong>\u0422\u0435\u0441\u0442 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438<\/strong>: \u0438\u0437\u043c\u0435\u0440\u044f\u0435\u043c p50\/p95 end-to-end latency, \u0432\u0440\u0435\u043c\u044f checkpoint, \u0432\u0440\u0435\u043c\u044f recovery, state size.<\/p>\n<\/li>\n<\/ol>\n<h4>7.2 \u041a\u043e\u0434 \u0434\u043e (Flink 1.20.x, \u0443\u043f\u0440\u043e\u0449\u0451\u043d\u043d\u044b\u0439 Java DataStream)<\/h4>\n<pre><code class=\"java\">\/\/ Java 11 \/ Flink 1.20.x (\u043f\u0440\u0438\u043c\u0435\u0440) StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); env.enableCheckpointing(60_000); DataStream&lt;String&gt; raw = env   .addSource(new FlinkKafkaConsumer&lt;&gt;(\"events\", new SimpleStringSchema(), props)); DataStream&lt;Enriched&gt; enriched = raw   .map(Parser::parse)   .keyBy(Enriched::key)   .process(new StatefulEnrichmentFunction()); \/\/ \u0421\u0442\u0430\u0440\u044b\u0439 SinkFunction enriched.addSink(new LegacyJdbcSinkFunction(...)); env.execute(\"legacy-pipeline\"); <\/code><\/pre>\n<h4>7.3 \u041a\u043e\u0434 \u043f\u043e\u0441\u043b\u0435 (Flink 2.0, Java 17, Unified Sink + Table API \u043c\u0430\u0442\u0435\u0440\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f)<\/h4>\n<pre><code class=\"java\">\/\/ Java 17 \/ Flink 2.0 StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); env.enableCheckpointing(30_000); \/\/ \u041f\u0440\u0438\u043c\u0435\u0440: \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u043d\u043e\u0432\u043e\u0439 Kafka Source API KafkaSource&lt;String&gt; source = KafkaSource.&lt;String&gt;builder()   .setBootstrapServers(brokers)   .setTopics(\"events\")   .setGroupId(\"events-consumer\")   .setStartingOffsets(OffsetsInitializer.latest())   .setValueOnlyDeserializer(new SimpleStringSchema())   .build(); DataStream&lt;String&gt; raw = env.fromSource(source, WatermarkStrategy.noWatermarks(), \"events\"); DataStream&lt;Enriched&gt; enriched = raw   .map(Parser::parse)   .keyBy(Enriched::key)   .process(new StatefulEnrichmentFunction()); \/\/ Unified Sink (\u043f\u0440\u0438\u043c\u0435\u0440 File \/ Iceberg \/ JDBC \u0447\u0435\u0440\u0435\u0437 Factory) Sink&lt;Enriched&gt; sink = MyUnifiedSinkFactory.icebergSink(tableIdent, catalogCfg); enriched.sinkTo(sink); \/\/ \u0418\u043d\u0442\u0435\u0433\u0440\u0430\u0446\u0438\u044f \u0441 Table API EnvironmentSettings settings = EnvironmentSettings.newInstance().inStreamingMode().build(); TableEnvironment tEnv = TableEnvironment.create(settings); Table table = tEnv.fromDataStream(enriched); tEnv.createTemporaryView(\"enriched_stream\", table); Table agg = tEnv.sqlQuery(\"\"\"   SELECT key, COUNT(*) AS cnt, WINDOW_START(w) AS w_start   FROM TABLE(     TUMBLE(TABLE enriched_stream, DESCRIPTOR(eventTime), INTERVAL '1' MINUTE) )   GROUP BY key, w \"\"\"); agg.executeInsert(\"target_materialized_table\"); env.execute(\"modern-pipeline\"); <\/code><\/pre>\n<h4>7.4 \u041f\u0440\u0438\u043c\u0435\u0440 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 (\u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442 flink-conf.yaml \u043f\u043e\u0441\u043b\u0435)<\/h4>\n<pre><code class=\"yaml\"># Java 17 runtime (\u0431\u0430\u0437\u043e\u0432\u044b\u0439 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440) taskmanager.numberOfTaskSlots: 4 execution.checkpointing.interval: 30s state.backend: rocksdb state.backend.incremental: true state.checkpoints.dir: s3:\/\/my-bucket\/flink\/ckpts state.savepoints.dir: s3:\/\/my-bucket\/flink\/savepoints # \u041f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0430 \u043a \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u044e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0438 \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f (\u043a\u043e\u043d\u0446\u0435\u043f\u0442\u0443\u0430\u043b\u044c\u043d\u043e) # experimental.state.remote.cache-size: 8g   # (\u043f\u0440\u0438\u043c\u0435\u0440 \u0433\u0438\u043f\u043e\u0442\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043a\u043b\u044e\u0447\u0430 \u2013 \u041d\u0415 \u0438\u0437 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438) # NOTE: \u043a\u043b\u044e\u0447 \u0432\u044b\u0448\u0435 \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0439; \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0435 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0443\u0442\u043e\u0447\u043d\u044f\u0439\u0442\u0435 \u043f\u043e \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0440\u0435\u043b\u0438\u0437\u0430. <\/code><\/pre>\n<p>(\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043a\u043b\u044e\u0447\u0438 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u044b \u0442\u043e\u043b\u044c\u043a\u043e \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0442\u0438\u0432\u043d\u043e \u2014 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0439\u0442\u0435 \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044e \u043f\u0435\u0440\u0435\u0434 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c.) <\/p>\n<h4>7.5 \u041f\u0440\u0438\u043c\u0435\u0440 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432 \u043f\u0438\u043b\u043e\u0442\u0430 (\u0443\u0441\u043b\u043e\u0432\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435)<\/h4>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041c\u0435\u0442\u0440\u0438\u043a\u0430<\/p>\n<\/th>\n<th>\n<p align=\"left\">1.20.x<\/p>\n<\/th>\n<th>\n<p align=\"left\">2.0<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0418\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">p95 E2E latency<\/p>\n<\/td>\n<td>\n<p align=\"left\">420 ms<\/p>\n<\/td>\n<td>\n<p align=\"left\">310 ms<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u221226%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u0440\u0435\u0434\u043d\u0435\u0435 \u0432\u0440\u0435\u043c\u044f checkpoint<\/p>\n<\/td>\n<td>\n<p align=\"left\">18 s<\/p>\n<\/td>\n<td>\n<p align=\"left\">14 s<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u221222%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Recovery \u043f\u043e\u0441\u043b\u0435 \u0441\u0431\u043e\u044f (100 GB state)<\/p>\n<\/td>\n<td>\n<p align=\"left\">11 \u043c\u0438\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">6 \u043c\u0438\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u221245%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">State size (\u0438\u043d\u043a\u0440\u0435\u043c. \u0441\u043d\u0430\u043f\u0448\u043e\u0442)<\/p>\n<\/td>\n<td>\n<p align=\"left\">100 GB<\/p>\n<\/td>\n<td>\n<p align=\"left\">92 GB<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u22128%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c\/\u0447\u0430\u0441 (\u0443\u0437\u043b\u044b m5.4xlarge \u044d\u043a\u0432.)<\/p>\n<\/td>\n<td>\n<p align=\"left\">100%<\/p>\n<\/td>\n<td>\n<p align=\"left\">84%<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u221216%<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041f\u0440\u0438\u0432\u0435\u0434\u0451\u043d\u043d\u044b\u0435 \u0446\u0438\u0444\u0440\u044b \u2014 \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0439 \u043f\u0440\u0438\u043c\u0435\u0440: \u043c\u0435\u0442\u043e\u0434\u043e\u043b\u043e\u0433\u0438\u044f: \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 150K msg\/s, Kafka \u2192 Flink \u2192 Iceberg; \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 p95 \u0441\u0432\u044f\u0437\u0430\u043d\u044b \u0441 \u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435\u043c \u043e\u0432\u0435\u0440\u0445\u0435\u0434\u0430 sink \u0438 \u043a\u043e\u043d\u0444\u0438\u0433-\u0443\u043d\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439 (\u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0438 \u0446\u0438\u0442\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u043b\u0438\u0448\u044c \u0434\u043b\u044f \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u044b\u0445 \u0430\u0441\u043f\u0435\u043a\u0442\u043e\u0432, \u0430 \u043d\u0435 \u0434\u043b\u044f \u0441\u0430\u043c\u0438\u0445 \u0447\u0438\u0441\u0435\u043b). <\/p>\n<h3>8. \u0423\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c\u044e \u0438 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c<\/h3>\n<p>\u0414\u0438\u0437\u0430\u0433\u0440\u0435\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 \u0443\u043d\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f sink \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 \u043f\u043b\u043e\u0442\u043d\u0435\u0435 \u0443\u043f\u0430\u043a\u043e\u0432\u044b\u0432\u0430\u0442\u044c TaskManager-\u044b (\u043c\u0435\u043d\u044c\u0448\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e <\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-467891","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/467891","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=467891"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/467891\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=467891"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=467891"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=467891"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}