{"id":489258,"date":"2026-07-31T06:22:33","date_gmt":"2026-07-31T06:22:33","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=489258"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=489258","title":{"rendered":"Memorization vs Generalization: \u0447\u0442\u043e \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0443\u043c\u0435\u0435\u0442 \u044f\u0437\u044b\u043a\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c (TLM) \u043d\u0430 2\u202f160 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 (v1.1.0)"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u041f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u044f \u0442\u0435\u043c\u0443 <a href=\"https:\/\/habr.com\/ru\/articles\/1063406\/\" rel=\"noopener noreferrer nofollow\">\u041a\u0440\u043e\u0448\u0435\u0447\u043d\u043e\u0439 \u042f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u041c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 Nodejs<\/a> \u043c\u044b \u043f\u043e\u0439\u043c\u0435\u043c \u0433\u0434\u0435 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u0433\u0440\u0430\u043d\u0438\u0446\u0430 \u0435\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0435\u0439. \u041d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u041a\u0440\u043e\u0448\u0435\u0447\u043d\u043e\u0439 \u042f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u041c\u043e\u0434\u0435\u043b\u0438 (TLM) \u0438\u0437 2\u202f160 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043c\u044b \u043f\u0440\u043e\u0432\u0435\u0434\u0451\u043c \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u043c\u044b\u0439 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u0438 \u0443\u0432\u0438\u0434\u0438\u043c \u0432 \u0446\u0438\u0444\u0440\u0430\u0445: \u0437\u043d\u0430\u043a\u043e\u043c\u044b\u0439 \u0448\u0430\u0431\u043b\u043e\u043d &#8212; 99,93%, \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 &#8212; 81,69%, \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u0430\u044f \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 -?%.<\/p>\n<p>\u041f\u043e \u0441\u043b\u0435\u0434\u0430\u043c \u043e\u0431\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u043c\u043e\u0435\u0433\u043e \u0430\u0432\u0442\u043e\u0433\u0440\u0430\u0434\u0430 \u043d\u0430 Node.js \u0432 ML-\u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0435 \u0438 \u043e\u0442\u043b\u0438\u0447\u043d\u043e\u0433\u043e \u0444\u0438\u0434\u0431\u0435\u043a\u0430 \u043e\u0442 \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u043e\u0432 \u043d\u0430 Hashnode (\u043f\u0440\u0438\u0432\u0435\u0442 Ahmet \u00d6zel), \u044f \u0434\u043e\u0431\u0430\u0432\u0438\u043b \u0432 \u043f\u0440\u043e\u0435\u043a\u0442 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0435 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0435 \u0433\u0440\u0430\u043d\u0438\u0446\u044b \u043c\u0435\u0436\u0434\u0443 \u0437\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u043d\u0438\u0435\u043c \u0438 \u043e\u0431\u043e\u0431\u0449\u0435\u043d\u0438\u0435\u043c \u0432 \u0432\u0435\u0440\u0441\u0438\u0438 1.1.0.<\/p>\n<p>\u042f \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043b seed <code>42<\/code> \u0438 \u0434\u043e\u0431\u0430\u0432\u0438\u043b \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u0443\u044e frozen evaluation \u0438\u0437 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u043f\u0440\u043e\u0432\u0435\u0440\u043e\u043a:<\/p>\n<ul>\n<li>\n<p>\u0442\u043e\u0447\u043d\u044b\u0439 \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u0448\u0430\u0431\u043b\u043e\u043d;<\/p>\n<\/li>\n<li>\n<p>\u0437\u043d\u0430\u043a\u043e\u043c\u044b\u0435 \u0442\u043e\u043a\u0435\u043d\u044b \u0432 \u043d\u043e\u0432\u043e\u043c \u043f\u043e\u0440\u044f\u0434\u043a\u0435;<\/p>\n<\/li>\n<li>\n<p>\u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043e\u0442\u043b\u043e\u0436\u0435\u043d\u043d\u044b\u0439 \u0448\u0430\u0431\u043b\u043e\u043d, \u043d\u0435 \u0443\u0447\u0430\u0441\u0442\u0432\u043e\u0432\u0430\u0432\u0448\u0438\u0439 \u0432 loss;<\/p>\n<\/li>\n<li>\n<p>\u0441\u043e\u0445\u0440\u0430\u043d\u0435\u043d\u0438\u0435 14 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0439, \u0438\u0437\u0443\u0447\u0435\u043d\u043d\u044b\u0445 \u0434\u043e adaptive SFT.<\/p>\n<\/li>\n<\/ul>\n<h3>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b<\/h3>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041f\u0440\u043e\u0432\u0435\u0440\u043a\u0430<\/p>\n<\/th>\n<th>\n<p align=\"left\">Prompt<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041e\u0436\u0438\u0434\u0430\u043b\u043e\u0441\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041e\u0442\u0432\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442<\/p>\n<\/th>\n<th>\n<p align=\"left\">Min target P<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Seen template \/ seen order<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>can cat read ?<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>cat cannot read.<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>cat cannot read.<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">PASS<\/p>\n<\/td>\n<td>\n<p align=\"left\">99.93%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Seen tokens \/ new order<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>cat can read ?<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>cat cannot read.<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>cat cannot read.<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">PASS<\/p>\n<\/td>\n<td>\n<p align=\"left\">81.69%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Held-out template<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>does cat know read ?<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>cat cannot read.<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>cat can fly.<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">FAIL<\/p>\n<\/td>\n<td>\n<p align=\"left\">10.46%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Original-task retention<\/p>\n<\/td>\n<td>\n<p align=\"left\">14 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0445 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0439<\/p>\n<\/td>\n<td>\n<p align=\"left\">14\/14<\/p>\n<\/td>\n<td>\n<p align=\"left\">14\/14<\/p>\n<\/td>\n<td>\n<p align=\"left\">PASS<\/p>\n<\/td>\n<td>\n<p align=\"left\">99.70%<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0417\u043d\u0430\u0447\u0435\u043d\u0438\u044f <code>99.93%<\/code>, <code>81.69%<\/code> \u0438 <code>10.46%<\/code>  \u044d\u0442\u043e \u043d\u0435 accuracy, \u0430 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0433\u043e target-\u0442\u043e\u043a\u0435\u043d\u0430 \u0432 \u043e\u0442\u0432\u0435\u0442\u0435.<\/p>\n<p>\u0414\u043b\u044f original-task retention \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u043b\u0430 <code>14\/14<\/code> \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432, \u0442\u043e \u0435\u0441\u0442\u044c exact-match accuracy \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430 100%, \u0430 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c target-\u0442\u043e\u043a\u0435\u043d\u0430 &#8212; <code>99.70%<\/code>.<\/p>\n<p>\u041d\u0430 held-out \u0432\u043e\u043f\u0440\u043e\u0441:<\/p>\n<pre><code>does cat know read ?<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:87px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u043c\u043e\u0434\u0435\u043b\u044c \u0432\u043c\u0435\u0441\u0442\u043e \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u043e\u0433\u043e:<\/p>\n<pre><code>cat cannot read.<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u043e\u0442\u0432\u0435\u0442\u0438\u043b\u0430:<\/p>\n<pre><code>cat can fly.<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/14\/ec\/c8\/14ecc82838b9148616e37179c3c6bfea.png\" alt=\"\u041b\u043e\u0433\u0438 \u0441 held-out template \" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/14\/ec\/c8\/14ecc82838b9148616e37179c3c6bfea.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/14\/ec\/c8\/14ecc82838b9148616e37179c3c6bfea.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041b\u043e\u0433\u0438 \u0441 held-out template <\/figcaption><\/div>\n<\/figure>\n<h3>\u0413\u0434\u0435 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u0433\u0440\u0430\u043d\u0438\u0446\u0430 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0435\u0439 \u043c\u043e\u0434\u0435\u043b\u0438?<\/h3>\n<p>\u0412 \u044d\u0442\u043e\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u0435 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0433\u0440\u0430\u043d\u0438\u0446\u0430 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u043c\u0435\u0436\u0434\u0443 <strong>MEMORIZATION\/\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u043c \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u043e\u043c<\/strong> \u0438 \u043d\u0430\u0441\u0442\u043e\u044f\u0449\u0435\u0439 <strong>GENERALIZATION<\/strong>.<\/p>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u0448\u0430\u0431\u043b\u043e\u043d \u0438 \u0441\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u043e\u0439 \u0437\u043d\u0430\u043a\u043e\u043c\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u043d\u043e \u043d\u043e\u0432\u044b\u0439 \u0448\u0430\u0431\u043b\u043e\u043d \u0432\u043e\u043f\u0440\u043e\u0441\u0430 \u0443\u0436\u0435 \u0440\u0430\u0437\u0440\u0443\u0448\u0430\u0435\u0442 \u0432\u044b\u0443\u0447\u0435\u043d\u043d\u043e\u0435 \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435. \u041f\u0430\u0434\u0435\u043d\u0438\u0435 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0433\u043e target-\u0442\u043e\u043a\u0435\u043d\u0430 \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u043e \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u044d\u0442\u0443 \u0433\u0440\u0430\u043d\u0438\u0446\u0443:<\/p>\n<pre><code>99.93% \u2192 81.69% \u2192 10.46%<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0422\u0430\u043a\u043e\u0439 \u043f\u0440\u0435\u0434\u0435\u043b \u043e\u0436\u0438\u0434\u0430\u0435\u043c \u0434\u043b\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u0441\u0435\u0433\u043e \u0441 2 160 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438, \u0432\u043e\u0441\u044c\u043c\u0438\u043c\u0435\u0440\u043d\u044b\u043c\u0438 embeddings, \u0434\u0432\u0443\u043c\u044f attention heads, \u0434\u0432\u0443\u043c\u044f Transformer-\u0431\u043b\u043e\u043a\u0430\u043c\u0438 \u0438 \u0443\u0447\u0435\u0431\u043d\u044b\u043c \u043c\u0438\u0440\u043e\u043c \u0438\u0437 24 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p>\u041f\u0440\u0438\u0447\u0438\u043d\u0430 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0435 \u0432\u0435\u0441\u043e\u0432: \u043a\u043e\u0440\u043f\u0443\u0441 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043e\u0447\u0435\u043d\u044c \u043c\u0430\u043b\u043e \u044f\u0437\u044b\u043a\u043e\u0432\u044b\u0445 \u043a\u043e\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0439. \u0414\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u044b, \u0431\u043e\u043b\u0435\u0435 \u0448\u0438\u0440\u043e\u043a\u0438\u0435 embeddings \u0438\u043b\u0438 \u043d\u043e\u0432\u044b\u0435 Transformer-\u0431\u043b\u043e\u043a\u0438 \u043c\u043e\u0433\u043b\u0438 \u0431\u044b \u043f\u043e\u043c\u043e\u0447\u044c, \u043e\u0434\u043d\u0430\u043a\u043e \u0431\u0435\u0437 \u0431\u043e\u043b\u0435\u0435 \u043a\u0440\u0443\u043f\u043d\u043e\u0433\u043e \u0438 \u0440\u0430\u0437\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u043d\u043e\u0433\u043e \u043d\u0430\u0431\u043e\u0440\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043e\u043d\u0438 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b \u043b\u0438\u0448\u044c \u0442\u043e\u0447\u043d\u0435\u0435 \u0437\u0430\u043f\u043e\u043c\u043d\u0438\u0442\u044c \u0442\u0435 \u0436\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b.<\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442:<\/p>\n<ul>\n<li>\n<p>\u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e\u0435 \u0437\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u043d\u0438\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0433\u043e \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u044f;<\/p>\n<\/li>\n<li>\n<p>\u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u044b\u0439 \u043f\u0435\u0440\u0435\u043d\u043e\u0441 \u043d\u0430 \u0438\u0437\u043c\u0435\u043d\u0451\u043d\u043d\u044b\u0439 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0442\u043e\u043a\u0435\u043d\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u043e\u0432\u0430\u043b \u043d\u0430 \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e\u0439 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0435 \u0432\u043e\u043f\u0440\u043e\u0441\u0430;<\/p>\n<\/li>\n<li>\n<p>\u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0435 catastrophic forgetting \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f rehearsal &#8212; \u0441\u043e\u0445\u0440\u0430\u043d\u0435\u043d\u044b \u0432\u0441\u0435 <code>14\/14<\/code> \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0445 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0439.<\/p>\n<\/li>\n<\/ul>\n<p>\u042d\u0442\u043e \u043d\u0435 \u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u044b\u0439 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 benchmark, \u0430 \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u043c\u0430\u044f \u0443\u0447\u0435\u0431\u043d\u0430\u044f \u0434\u0438\u0430\u0433\u043d\u043e\u0441\u0442\u0438\u043a\u0430 \u043e\u0434\u043d\u043e\u0433\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0441 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c seed. \u0415\u0451 \u0437\u0430\u0434\u0430\u0447\u0430 &#8212; \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u043e \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u0433\u0434\u0435 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f language model \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u0451\u0442 \u0437\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u0442\u044c \u0438 \u0434\u043e\u043b\u0436\u043d\u0430 \u043d\u0430\u0447\u0430\u0442\u044c \u043e\u0431\u043e\u0431\u0449\u0430\u0442\u044c.<\/p>\n<p>\u041f\u043e\u043b\u043d\u044b\u0439 \u043a\u043e\u0434 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430, deterministic tests \u0438 \u043e\u0431\u043d\u043e\u0432\u043b\u0451\u043d\u043d\u044b\u0439 \u0441\u043a\u0440\u0438\u043f\u0442 \u0443\u0436\u0435 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b \u0432 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438.<\/p>\n<h3>\u041f\u043e\u043b\u0435\u0437\u043d\u044b\u0435 \u0441\u0441\u044b\u043b\u043a\u0438<\/h3>\n<ul>\n<li>\n<p>\u041f\u043e\u043b\u043d\u044b\u0439 \u043a\u043e\u0434 \u0432\u043a\u043b\u044e\u0447\u0430\u044f v1.1.0 \u043d\u0430 GitHub: <a href=\"https:\/\/github.com\/sekretov\/tiny-language-model-neuro-js\" rel=\"noopener noreferrer nofollow\">tiny-language-model-neuro-js<\/a><\/p>\n<\/li>\n<li>\n<p>\u0418\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u043b\u043e\u043d\u0433\u0440\u0438\u0434-\u0442\u0443\u0442\u043e\u0440\u0438\u0430\u043b \u043d\u0430 \u0425\u0430\u0431\u0440\u0435: <a href=\"https:\/\/habr.com\/ru\/articles\/1063406\/\" rel=\"noopener noreferrer nofollow\">\u0421\u043e\u0437\u0434\u0430\u0451\u043c Tiny Language Model \u043d\u0430 \u0447\u0438\u0441\u0442\u043e\u043c Node.js<\/a><\/p>\n<\/li>\n<\/ul>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1065160\/\">https:\/\/habr.com\/ru\/articles\/1065160\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u041f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u044f \u0442\u0435\u043c\u0443 \u041a\u0440\u043e\u0448\u0435\u0447\u043d\u043e\u0439 \u042f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u041c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 Nodejs \u043c\u044b \u043f\u043e\u0439\u043c\u0435\u043c \u0433\u0434\u0435 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u0433\u0440\u0430\u043d\u0438\u0446\u0430 \u0435\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0435\u0439. \u041d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u041a\u0440\u043e\u0448\u0435\u0447\u043d\u043e\u0439 \u042f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u041c\u043e\u0434\u0435\u043b\u0438 (TLM) \u0438\u0437 2\u202f160 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043c\u044b \u043f\u0440\u043e\u0432\u0435\u0434\u0451\u043c \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u043c\u044b\u0439 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u0438 \u0443\u0432\u0438\u0434\u0438\u043c \u0432 \u0446\u0438\u0444\u0440\u0430\u0445: \u0437\u043d\u0430\u043a\u043e\u043c\u044b\u0439 \u0448\u0430\u0431\u043b\u043e\u043d &#8212; 99,93%, \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 &#8212; 81,69%, \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u0430\u044f \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 -?%.\u041f\u043e \u0441\u043b\u0435\u0434\u0430\u043c \u043e\u0431\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u043c\u043e\u0435\u0433\u043e \u0430\u0432\u0442\u043e\u0433\u0440\u0430\u0434\u0430 \u043d\u0430 Node.js \u0432 ML-\u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0435 \u0438 \u043e\u0442\u043b\u0438\u0447\u043d\u043e\u0433\u043e \u0444\u0438\u0434\u0431\u0435\u043a\u0430 \u043e\u0442 \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u043e\u0432 \u043d\u0430 Hashnode (\u043f\u0440\u0438\u0432\u0435\u0442 Ahmet \u00d6zel), \u044f \u0434\u043e\u0431\u0430\u0432\u0438\u043b \u0432 \u043f\u0440\u043e\u0435\u043a\u0442 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0435 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0435 \u0433\u0440\u0430\u043d\u0438\u0446\u044b \u043c\u0435\u0436\u0434\u0443 \u0437\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u043d\u0438\u0435\u043c \u0438 \u043e\u0431\u043e\u0431\u0449\u0435\u043d\u0438\u0435\u043c \u0432 \u0432\u0435\u0440\u0441\u0438\u0438 1.1.0.\u042f \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043b seed 42 \u0438 \u0434\u043e\u0431\u0430\u0432\u0438\u043b \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u0443\u044e frozen evaluation \u0438\u0437 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u043f\u0440\u043e\u0432\u0435\u0440\u043e\u043a:\u0442\u043e\u0447\u043d\u044b\u0439 \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u0448\u0430\u0431\u043b\u043e\u043d;\u0437\u043d\u0430\u043a\u043e\u043c\u044b\u0435 \u0442\u043e\u043a\u0435\u043d\u044b \u0432 \u043d\u043e\u0432\u043e\u043c \u043f\u043e\u0440\u044f\u0434\u043a\u0435;\u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043e\u0442\u043b\u043e\u0436\u0435\u043d\u043d\u044b\u0439 \u0448\u0430\u0431\u043b\u043e\u043d, \u043d\u0435 \u0443\u0447\u0430\u0441\u0442\u0432\u043e\u0432\u0430\u0432\u0448\u0438\u0439 \u0432 loss;\u0441\u043e\u0445\u0440\u0430\u043d\u0435\u043d\u0438\u0435 14 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0439, \u0438\u0437\u0443\u0447\u0435\u043d\u043d\u044b\u0445 \u0434\u043e adaptive SFT.\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b\u041f\u0440\u043e\u0432\u0435\u0440\u043a\u0430Prompt\u041e\u0436\u0438\u0434\u0430\u043b\u043e\u0441\u044c\u041e\u0442\u0432\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442Min target PSeen template \/ seen ordercan cat read ?cat cannot read.cat cannot read.PASS99.93%Seen tokens \/ new ordercat can read ?cat cannot read.cat cannot read.PASS81.69%Held-out templatedoes cat know read ?cat cannot read.cat can fly.FAIL10.46%Original-task retention14 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0445 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u043914\/1414\/14PASS99.70%\u0417\u043d\u0430\u0447\u0435\u043d\u0438\u044f 99.93%, 81.69% \u0438 10.46%  \u044d\u0442\u043e \u043d\u0435 accuracy, \u0430 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0433\u043e target-\u0442\u043e\u043a\u0435\u043d\u0430 \u0432 \u043e\u0442\u0432\u0435\u0442\u0435.\u0414\u043b\u044f original-task retention \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u043b\u0430 14\/14 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432, \u0442\u043e \u0435\u0441\u0442\u044c exact-match accuracy \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430 100%, \u0430 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c target-\u0442\u043e\u043a\u0435\u043d\u0430 &#8212; 99.70%.\u041d\u0430 held-out \u0432\u043e\u043f\u0440\u043e\u0441:does cat know read ?\u043c\u043e\u0434\u0435\u043b\u044c \u0432\u043c\u0435\u0441\u0442\u043e \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u043e\u0433\u043e:cat cannot read.\u043e\u0442\u0432\u0435\u0442\u0438\u043b\u0430:cat can fly.\u041b\u043e\u0433\u0438 \u0441 held-out template \u0413\u0434\u0435 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u0433\u0440\u0430\u043d\u0438\u0446\u0430 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0435\u0439 \u043c\u043e\u0434\u0435\u043b\u0438?\u0412 \u044d\u0442\u043e\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u0435 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0433\u0440\u0430\u043d\u0438\u0446\u0430 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u043c\u0435\u0436\u0434\u0443 MEMORIZATION\/\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u043c \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u043e\u043c \u0438 \u043d\u0430\u0441\u0442\u043e\u044f\u0449\u0435\u0439 GENERALIZATION.\u041c\u043e\u0434\u0435\u043b\u044c \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u0448\u0430\u0431\u043b\u043e\u043d \u0438 \u0441\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u043e\u0439 \u0437\u043d\u0430\u043a\u043e\u043c\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u043d\u043e \u043d\u043e\u0432\u044b\u0439 \u0448\u0430\u0431\u043b\u043e\u043d \u0432\u043e\u043f\u0440\u043e\u0441\u0430 \u0443\u0436\u0435 \u0440\u0430\u0437\u0440\u0443\u0448\u0430\u0435\u0442 \u0432\u044b\u0443\u0447\u0435\u043d\u043d\u043e\u0435 \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435. \u041f\u0430\u0434\u0435\u043d\u0438\u0435 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0433\u043e target-\u0442\u043e\u043a\u0435\u043d\u0430 \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u043e \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u044d\u0442\u0443 \u0433\u0440\u0430\u043d\u0438\u0446\u0443:99.93% \u2192 81.69% \u2192 10.46%\u0422\u0430\u043a\u043e\u0439 \u043f\u0440\u0435\u0434\u0435\u043b \u043e\u0436\u0438\u0434\u0430\u0435\u043c \u0434\u043b\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u0441\u0435\u0433\u043e \u0441 2 160 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438, \u0432\u043e\u0441\u044c\u043c\u0438\u043c\u0435\u0440\u043d\u044b\u043c\u0438 embeddings, \u0434\u0432\u0443\u043c\u044f attention heads, \u0434\u0432\u0443\u043c\u044f Transformer-\u0431\u043b\u043e\u043a\u0430\u043c\u0438 \u0438 \u0443\u0447\u0435\u0431\u043d\u044b\u043c \u043c\u0438\u0440\u043e\u043c \u0438\u0437 24 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.\u041f\u0440\u0438\u0447\u0438\u043d\u0430 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0435 \u0432\u0435\u0441\u043e\u0432: \u043a\u043e\u0440\u043f\u0443\u0441 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043e\u0447\u0435\u043d\u044c \u043c\u0430\u043b\u043e \u044f\u0437\u044b\u043a\u043e\u0432\u044b\u0445 \u043a\u043e\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0439. \u0414\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u044b, \u0431\u043e\u043b\u0435\u0435 \u0448\u0438\u0440\u043e\u043a\u0438\u0435 embeddings \u0438\u043b\u0438 \u043d\u043e\u0432\u044b\u0435 Transformer-\u0431\u043b\u043e\u043a\u0438 \u043c\u043e\u0433\u043b\u0438 \u0431\u044b \u043f\u043e\u043c\u043e\u0447\u044c, \u043e\u0434\u043d\u0430\u043a\u043e \u0431\u0435\u0437 \u0431\u043e\u043b\u0435\u0435 \u043a\u0440\u0443\u043f\u043d\u043e\u0433\u043e \u0438 \u0440\u0430\u0437\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u043d\u043e\u0433\u043e \u043d\u0430\u0431\u043e\u0440\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043e\u043d\u0438 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b \u043b\u0438\u0448\u044c \u0442\u043e\u0447\u043d\u0435\u0435 \u0437\u0430\u043f\u043e\u043c\u043d\u0438\u0442\u044c \u0442\u0435 \u0436\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b.\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442:\u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e\u0435 \u0437\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u043d\u0438\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0433\u043e \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u044f;\u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u044b\u0439 \u043f\u0435\u0440\u0435\u043d\u043e\u0441 \u043d\u0430 \u0438\u0437\u043c\u0435\u043d\u0451\u043d\u043d\u044b\u0439 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0442\u043e\u043a\u0435\u043d\u043e\u0432;\u043f\u0440\u043e\u0432\u0430\u043b \u043d\u0430 \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e\u0439 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0435 \u0432\u043e\u043f\u0440\u043e\u0441\u0430;\u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0435 catastrophic forgetting \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f rehearsal &#8212; \u0441\u043e\u0445\u0440\u0430\u043d\u0435\u043d\u044b \u0432\u0441\u0435 14\/14 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0445 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0439.\u042d\u0442\u043e \u043d\u0435 \u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u044b\u0439 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 benchmark, \u0430 \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u043c\u0430\u044f \u0443\u0447\u0435\u0431\u043d\u0430\u044f \u0434\u0438\u0430\u0433\u043d\u043e\u0441\u0442\u0438\u043a\u0430 \u043e\u0434\u043d\u043e\u0433\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0441 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c seed. \u0415\u0451 \u0437\u0430\u0434\u0430\u0447\u0430 &#8212; \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u043e \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u0433\u0434\u0435 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f language model \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u0451\u0442 \u0437\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u0442\u044c \u0438 \u0434\u043e\u043b\u0436\u043d\u0430 \u043d\u0430\u0447\u0430\u0442\u044c \u043e\u0431\u043e\u0431\u0449\u0430\u0442\u044c.\u041f\u043e\u043b\u043d\u044b\u0439 \u043a\u043e\u0434 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430, deterministic tests \u0438 \u043e\u0431\u043d\u043e\u0432\u043b\u0451\u043d\u043d\u044b\u0439 \u0441\u043a\u0440\u0438\u043f\u0442 \u0443\u0436\u0435 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b \u0432 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438.\u041f\u043e\u043b\u0435\u0437\u043d\u044b\u0435 \u0441\u0441\u044b\u043b\u043a\u0438\u041f\u043e\u043b\u043d\u044b\u0439 \u043a\u043e\u0434 \u0432\u043a\u043b\u044e\u0447\u0430\u044f v1.1.0 \u043d\u0430 GitHub: tiny-language-model-neuro-js\u0418\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u043b\u043e\u043d\u0433\u0440\u0438\u0434-\u0442\u0443\u0442\u043e\u0440\u0438\u0430\u043b \u043d\u0430 \u0425\u0430\u0431\u0440\u0435: \u0421\u043e\u0437\u0434\u0430\u0451\u043c Tiny Language Model \u043d\u0430 \u0447\u0438\u0441\u0442\u043e\u043c Node.js\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 https:\/\/habr.com\/ru\/articles\/1065160\/<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-489258","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/489258","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=489258"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/489258\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=489258"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=489258"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=489258"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}