{"id":347300,"date":"2023-03-26T15:01:37","date_gmt":"2023-03-26T15:01:37","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=347300"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=347300","title":{"rendered":"<span>\u0410\u043d\u0430\u043b\u0438\u0437 \u043f\u043e\u0434\u0431\u043e\u0440\u0430 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u2014 FNN (\u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 MNIST)<\/span>"},"content":{"rendered":"<div><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<h2>\u0414\u043b\u044f \u0447\u0435\u0433\u043e<\/h2>\n<p>\u041f\u0440\u0438 \u0438\u0437\u0443\u0447\u0435\u043d\u0438\u0438 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u0435\u0442\u0441\u044f \u043c\u043d\u043e\u0433\u043e \u043d\u043e\u0432\u043e\u0439 \u0442\u0435\u043e\u0440\u0438\u0438 \u0438 \u043d\u043e\u0432\u044b\u0445 \u0442\u0435\u0440\u043c\u0438\u043d\u043e\u0432. \u042d\u0442\u043e \u0443\u0441\u0432\u0430\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0441\u0438\u043b\u044c\u043d\u043e \u043b\u0443\u0447\u0448\u0435, \u0435\u0441\u043b\u0438 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0432\u0440\u0435\u043c\u044f &#171;\u043f\u043e\u0438\u0433\u0440\u0430\u0442\u044c \u0441 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438&#187;. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u044b \u0432\u0437\u044f\u043b\u0438 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0448\u0438\u0440\u043e\u043a\u043e\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 \u0434\u0430\u0442\u0430\u0441\u0435\u0442 (MNIST, \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f \u0440\u0443\u043a\u043e\u043f\u0438\u0441\u043d\u044b\u0445 \u0446\u0438\u0444\u0440), \u043f\u0440\u043e\u0441\u0442\u0443\u044e \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u0443\u044e FNN (\u041d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f) \u0438 \u043f\u043e\u0434\u0432\u0438\u0433\u0430\u043b\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0432 \u0440\u0430\u0437\u043d\u044b\u0435 \u0441\u0442\u043e\u0440\u043e\u043d\u044b, \u043e\u0442\u043c\u0435\u0447\u0430\u044f \u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u044f, \u0447\u0442\u043e \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442.<\/p>\n<p>\u041a\u043e\u043d\u0435\u0447\u043d\u043e, \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0434\u043b\u044f \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044f \u0438 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u043b\u0443\u0447\u0448\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0442\u044c \u043d\u0435 FNN (\u041d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0435 \u0441\u0435\u0442\u0438 \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f), \u0430 CNN (\u0421\u0432\u0435\u0440\u0442\u043e\u0447\u043d\u044b\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0435 \u0441\u0435\u0442\u0438), \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u0438 \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0435. \u0421 \u044d\u0442\u0438\u043c \u0441\u043e\u0433\u043b\u0430\u0441\u043d\u044b, \u0438 \u0446\u0435\u043b\u044c\u044e \u0434\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043d\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u043e\u043f\u044b\u0442\u043a\u0430 \u043f\u0440\u0435\u0432\u044b\u0441\u0438\u0442\u044c \u043d\u0430 FNN \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044f \u043d\u0430 CNN. \u0412 \u0434\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043c\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u043e\u0434\u0432\u0438\u0433\u0430\u0435\u043c \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0438 \u0441\u0434\u0435\u043b\u0430\u0435\u043c \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u0432\u044b\u0432\u043e\u0434\u044b. <\/p>\n<p>\u041f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u0432\u044b\u0432\u043e\u0434\u044b \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u043b\u0435\u0437\u043d\u044b \u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043c\u044b \u0432\u043f\u043e\u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0438, \u043a\u043e\u0433\u0434\u0430 \u0434\u043b\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u0437\u0430\u0434\u0430\u0447 \u0431\u0443\u0434\u0435\u0442 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e &#171;\u0442\u044e\u043d\u0438\u0442\u044c&#187; \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u0441\u0432\u0435\u0440\u0442\u043e\u0447\u043d\u044b\u0435 \u0441\u0435\u0442\u0438 &#8212; \u043c\u0435\u043d\u044f\u0442\u044c \u0448\u0442\u0430\u0442\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440 (\u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 \u0441\u043b\u043e\u0438) \u043d\u0430 \u0441\u0432\u043e\u0439 &#8212; \u0432 \u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043a\u0430\u043a \u0440\u0430\u0437 \u0438 \u043f\u0440\u0438\u0433\u043e\u0434\u0438\u0442\u0441\u044f \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432.<\/p>\n<h2>\u041e\u0431\u0449\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434<\/h2>\n<p>\u041e\u0431\u0449\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u0442\u0430\u043a\u043e\u0439: \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u043c \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0438 \u043e\u0431\u0443\u0447\u0430\u0435\u043c \u0441\u0435\u0442\u044c, \u043f\u043e\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u044f \u043f\u043e\u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439. \u0422\u0435\u0441\u0442\u0438\u0440\u0443\u0435\u043c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430 \u0438 \u0442\u0430\u043a \u0434\u0430\u043b\u0435\u0435.<\/p>\n<h2>\u041f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0430 \u0434\u0430\u043d\u043d\u044b\u0445<\/h2>\n<p>\u041f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e, \u043a\u0430\u043a \u0438 \u0432 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0435 \u0440\u043e\u043b\u0438\u043a\u043e\u0432 \u0438 \u0441\u0442\u0430\u0442\u0435\u0439 \u043f\u043e MNIST, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e\u0441\u043e\u0431\u043e \u043d\u0435 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0438\u0440\u0443\u0435\u043c, \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0440\u0438\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u043c.<\/p>\n<details class=\"spoiler\">\n<summary>\u0411\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438<\/summary>\n<div class=\"spoiler__content\">\n<pre><code>import numpy as np import matplotlib.pyplot as plt %matplotlib inline  import keras  from keras.models import Sequential from keras.layers import Dense, Flatten, Dropout from keras.datasets import mnist  from keras.callbacks import ReduceLROnPlateau from keras.callbacks import ModelCheckpoint <\/code><\/pre>\n<\/p>\n<\/div>\n<\/details>\n<details class=\"spoiler\">\n<summary>\u0421\u043a\u0430\u0447\u0438\u0432\u0430\u043d\u0438\u0435 \u0438 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0445<\/summary>\n<div class=\"spoiler__content\">\n<pre><code># \u0421\u043a\u0430\u0447\u0438\u0432\u0430\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u0441\u0440\u0430\u0437\u0443 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u043c \u043d\u0430 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0443\u044e \u0438 \u0442\u0435\u0441\u0442\u043e\u0432\u0443\u044e \u0432\u044b\u0431\u043e\u0440\u043a\u0438 (x_train, y_train), (x_test, y_test) = mnist.load_data()  # \u041f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435 \u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b [0,1] x_train = x_train \/ 255 x_test = x_test \/ 255  y_train_cat = keras.utils.to_categorical(y_train, 10) y_test_cat = keras.utils.to_categorical(y_test, 10)<\/code><\/pre>\n<\/p>\n<\/div>\n<\/details>\n<details class=\"spoiler\">\n<summary>\u041f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e\u0441\u0442\u0438 \u0434\u0430\u043d\u043d\u044b\u0445<\/summary>\n<div class=\"spoiler__content\">\n<pre><code># \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u0444\u043e\u0440\u043c\u044b print(x_train.shape, y_train.shape, x_test.shape, y_test.shape)  # \u0432\u044b\u0432\u043e\u0434\u0438\u043c \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 print(x_train[7777])  \u0432\u044b\u0432\u043e\u0434\u0438\u043c \u043c\u0435\u0442\u043a\u0443 \u043a\u043b\u0430\u0441\u0441\u0430 print(y_train[7777])  # \u0432\u044b\u0432\u043e\u0434\u0438\u043c \u043c\u0435\u0442\u043a\u0443 \u043a\u043b\u0430\u0441\u0441\u0430 \u0432 one-hot-codding print(y_train_cat[7777])  # \u0412\u044b\u0432\u043e\u0434\u0438\u043c \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 plt.imshow(x_train[7777], cmap='binary') plt.axis('off') # \u0431\u0435\u0437 \u043e\u0441\u0435\u0439 plt.show()  # \u0412\u044b\u0432\u043e\u0434\u0438\u043c \u043f\u0435\u0440\u0432\u044b\u0445 25 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0438\u0437 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 plt.figure(figsize=(20,10)) for i in range(25):     plt.subplot(5,5,i+1)     plt.xticks([])     plt.yticks([])     plt.imshow(x_train[i], cmap=plt.cm.binary)  plt.show()<\/code><\/pre>\n<\/p>\n<\/div>\n<\/details>\n<h2>\u0411\u0430\u0437\u043e\u0432\u0430\u044f \u043a\u043e\u043c\u043f\u043b\u0435\u043a\u0442\u0430\u0446\u0438\u044f \u0441\u0435\u0442\u0438<\/h2>\n<p>\u0411\u0435\u0440\u0435\u043c \u0441\u0430\u043c\u044b\u0439 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442: <\/p>\n<p>FNN: \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u0441\u043b\u043e\u0439, \u043e\u0434\u0438\u043d \u0441\u043a\u0440\u044b\u0442\u044b\u0439 \u0441\u043b\u043e\u0439, \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0439 \u0441\u043b\u043e\u0439;<br \/>\u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 10 \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 (\u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e 10 \u0446\u0438\u0444\u0440 = 10 \u043a\u043b\u0430\u0441\u0441\u043e\u0432);<br \/>\u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 &#8212; &#171;relu&#187; \u0438 &#171;softmax&#187; (\u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442);<br \/>\u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c &#8212; &#171;categorical_crossentropy&#187; (\u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442, \u043a\u043e\u0433\u0434\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043a\u043b\u0430\u0441\u0441\u043e\u0432);<br \/>\u043c\u0435\u0442\u0440\u0438\u043a\u0430 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 &#8212; &#171;accuracy&#187; (\u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442);<br \/>\u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440 &#8212; &#171;adam&#187; (\u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442);<br \/>\u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430 &#8212; 32 (\u043d\u0430\u0434\u043e \u0441 \u0447\u0435\u0433\u043e-\u0442\u043e \u043d\u0430\u0447\u0438\u043d\u0430\u0442\u044c);<br \/>\u0440\u0430\u0437\u043c\u0435\u0440 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 &#8212; 20% (\u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442).<\/p>\n<p>\u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c \u043f\u0435\u0440\u0432\u044b\u0439 \u0440\u0430\u0437 \u043d\u0430 20 \u044d\u043f\u043e\u0445 \u0438 \u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u0447\u0442\u043e \u043a \u0447\u0435\u043c\u0443. <\/p>\n<pre><code>model = keras.Sequential([     Flatten(input_shape=(28, 28, 1)),     Dense(128, activation='relu'),     Dense(10, activation='softmax')     ])  model.compile(     optimizer='adam',     loss='categorical_crossentropy',     metrics=['accuracy']     )  history = model.fit(     x_train, y_train_cat,      batch_size=32,      epochs=20,      validation_split=0.2     )<\/code><\/pre>\n<p>\u0412\u044b\u0432\u043e\u0434\u0438\u043c \u0446\u0438\u0444\u0440\u044b &#8230;<\/p>\n<pre><code>print('train:', model.evaluate(x_train, y_train_cat, verbose = 0)) print('test:', model.evaluate(x_test, y_test_cat, verbose = 0)) print( 'val_loss:', np.argmin(history.history['val_loss']), history.history['val_loss'][np.argmin(history.history['val_loss'])] ) print( 'val_accuracy:', np.argmax(history.history['val_accuracy']), history.history['val_accuracy'][np.argmax(history.history['val_accuracy'])] )<\/code><\/pre>\n<p>train:\u00a0[0.023798486217856407,\u00a00.9946833252906799]<br \/>test:\u00a0[0.09774788469076157,\u00a00.9769999980926514]<br \/>val_loss:\u00a07\u00a00.08434651792049408<br \/>val_accuracy:\u00a018\u00a00.9779166579246521<\/p>\n<p> &#8230; \u0438 \u0433\u0440\u0430\u0444\u0438\u043a\u0438.<\/p>\n<pre><code>plt.plot(list(range(1,len(history.history['loss'])+1)),history.history['loss']) plt.plot(list(range(1,len(history.history['val_loss'])+1)),history.history['val_loss']) plt.title(\"loss and val_loss\") plt.grid(True) plt.show()<\/code><\/pre>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/bf5\/6f4\/e64\/bf56f4e64e182ff49a16dbd1a69c6316.png\" width=\"378\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bf5\/6f4\/e64\/bf56f4e64e182ff49a16dbd1a69c6316.png\"\/><\/figure>\n<pre><code>plt.plot(list(range(1,len(history.history['accuracy'])+1)),history.history['accuracy']) plt.plot(list(range(1,len(history.history['val_accuracy'])+1)),history.history['val_accuracy']) plt.title(\"accuracy and val_accuracy\") plt.grid(True) plt.show()<\/code><\/pre>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/e50\/d3f\/050\/e50d3f0501bc538b8c7ee897ab293ee8.png\" width=\"378\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e50\/d3f\/050\/e50d3f0501bc538b8c7ee897ab293ee8.png\"\/><\/figure>\n<p>\u0412 \u043f\u0435\u0440\u0432\u043e\u043c \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0438\u0438 \u0432\u0438\u0434\u0438\u043c, \u0447\u0442\u043e \u0432\u0441\u0435 &#171;\u043a\u0430\u043a \u043f\u043e \u0443\u0447\u0435\u0431\u043d\u0438\u043a\u0443&#187;: <\/p>\n<p>\u043e\u0448\u0438\u0431\u043a\u0430 \u043d\u0430 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442\u0441\u044f;<br \/>\u043e\u0448\u0438\u0431\u043a\u0430 \u043d\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442\u0441\u044f, \u043f\u043e\u0442\u043e\u043c \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f &#8212; \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435;<br \/>\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u0438\u0442 \u0432\u043f\u043b\u043e\u0442\u043d\u0443\u044e \u043a 1.0;<br \/>\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0434\u043e\u0445\u043e\u0434\u0438\u0442 \u0434\u043e 0.978;<br \/>\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 0.977.<\/p>\n<p>\u041e\u0442\u0441\u044e\u0434\u0430 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u043c \u043f\u0435\u0440\u0435\u0431\u0438\u0440\u0430\u0442\u044c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b.<\/p>\n<h2>128 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0431\u0430\u0442\u0447\u0438 16-32-64-128<\/h2>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/700\/c4d\/9c2\/700c4d9c2fe078f31f7b7d526ead9c04.png\" width=\"595\" height=\"591\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/700\/c4d\/9c2\/700c4d9c2fe078f31f7b7d526ead9c04.png\"\/><\/figure>\n<p>\u0412\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u0447\u0435\u043c\u00a0\u0431\u043e\u043b\u044c\u0448\u0435\u00a0\u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430,\u00a0\u0442\u0435\u043c\u00a0\u043f\u043b\u0430\u0432\u043d\u0435\u0435\u00a0\u043b\u0438\u043d\u0438\u0438 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438.<br \/>\u0422\u0430\u043a\u0436\u0435 \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430 \u043e\u0448\u0438\u0431\u043a\u0430 \u043d\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0437\u0430\u0434\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432\u0432\u0435\u0440\u0445 \u043c\u0435\u043d\u044c\u0448\u0435, \u043f\u0440\u043e\u0433\u0438\u0431 \u0441\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0430\u0432\u0435\u0435, \u0442\u043e \u0435\u0441\u0442\u044c \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043c\u0435\u043d\u044c\u0448\u0435.<\/p>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/86d\/ce7\/c64\/86dce7c649d47ce55d10c9740ce7ff4f.png\" width=\"378\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/86d\/ce7\/c64\/86dce7c649d47ce55d10c9740ce7ff4f.png\"\/><\/figure>\n<p>\u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u00a0\u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0443\u00a0\u0432\u0441\u0435x\u00a0\u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u0430\u044f, <br \/>\u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0435 0.9769-0.9789,<br \/>\u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0432 \u0434\u0435\u0441\u044f\u0442\u044b\u0435 \u0438 \u0441\u043e\u0442\u044b\u0435 \u0434\u043e\u043b\u0438 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u0430.<\/p>\n<p>batch16:\u00a00.9771999716758728<br \/>batch32:\u00a00.978600025177002<br \/>batch64:\u00a00.9789000153541565<br \/>batch128:\u00a00.9768999814987183<\/p>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/a75\/10a\/7ad\/a7510a7ad6f18dd7c9faaaff0fe9992d.png\" width=\"384\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a75\/10a\/7ad\/a7510a7ad6f18dd7c9faaaff0fe9992d.png\"\/><\/figure>\n<h3>256 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0431\u0430\u0442\u0447\u0438 16-32-64-128<\/h3>\n<p>\u041f\u0440\u0438\u043d\u0446\u0438\u043f\u0438\u0430\u043b\u044c\u043d\u043e, \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u0442\u0430 \u0436\u0435, \u0447\u0442\u043e \u0438 \u043f\u0440\u0438 128 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430\u0445.<br \/>\u0421\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0445 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439 \u043f\u0440\u0438 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0435 \u043e\u0442 128 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043a 256 \u043d\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u0442\u0441\u044f.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/19b\/9d1\/377\/19b9d137733970978404985e227cd4f7.png\" width=\"601\" height=\"591\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/19b\/9d1\/377\/19b9d137733970978404985e227cd4f7.png\"\/><\/figure>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/653\/7b5\/577\/6537b55771d0c77d3c7325a8d2c2237e.png\" width=\"378\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/653\/7b5\/577\/6537b55771d0c77d3c7325a8d2c2237e.png\"\/><\/figure>\n<p>\u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0442\u0430\u043a\u0436\u0435 \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u043e, <br \/>\u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0435 0.9795-0.9810,<br \/>\u0447\u0442\u043e \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 0.9769-0.9789 (\u043d\u0430 128) \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0442\u0430\u043c \u0436\u0435.<\/p>\n<p>batch16:\u00a00.9794999957084656<br \/>batch32:\u00a00.9801999926567078<br \/>batch64:\u00a00.9785000085830688<br \/>batch128:\u00a00.9810000061988831<\/p>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/ef6\/d4e\/b3f\/ef6d4eb3f72448ea054cb2df2aafc103.png\" width=\"384\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ef6\/d4e\/b3f\/ef6d4eb3f72448ea054cb2df2aafc103.png\"\/><\/figure>\n<h3>512 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0431\u0430\u0442\u0447\u0438 16-32-64-128<\/h3>\n<p>\u0421\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u0441 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0441\u0442\u044c\u044e \u0441\u0442\u0430\u043b\u0430 \u0431\u043e\u043b\u0435\u0435 \u0437\u0430\u043c\u0435\u0442\u043d\u0430. <br \/>\u041e\u0448\u0438\u0431\u043a\u0430 \u043d\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0437\u0430\u0434\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432\u0432\u0435\u0440\u0445 \u043f\u043e\u0440\u0435\u0437\u0447\u0435.\u0438 \u043f\u0440\u043e\u0433\u0438\u0431 \u0441\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043b\u0435\u0432\u0435\u0435.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/61c\/9af\/729\/61c9af7290404450406aa25b2f5ddcd2.png\" width=\"601\" height=\"591\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/61c\/9af\/729\/61c9af7290404450406aa25b2f5ddcd2.png\"\/><\/figure>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/00b\/4e7\/6fc\/00b4e76fcfcaac473ea55d4f0e843db5.png\" width=\"378\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/00b\/4e7\/6fc\/00b4e76fcfcaac473ea55d4f0e843db5.png\"\/><\/figure>\n<p>\u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0442\u0430\u043a\u0436\u0435 \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u043e, <br \/>\u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0435 0.9783-0.9824<br \/>\u0447\u0442\u043e \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 0.9795-0.9810 (256) \u0438 0.9769-0.9789 (128) \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0442\u0430\u043c \u0436\u0435, <br \/>\u0445\u043e\u0442\u044f \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u0441 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0447\u0438\u0441\u043b\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0432\u0441\u0435 \u0442\u0430\u043a\u0438 \u043d\u0430 \u0447\u0443\u0442\u044c-\u0447\u0443\u0442\u044c \u043f\u043e\u0432\u044b\u0448\u0430\u0435\u0442\u0441\u044f.<\/p>\n<p>batch16:\u00a00.9789000153541565<br \/>batch32:\u00a00.9782999753952026<br \/>batch64:\u00a00.9815000295639038<br \/>batch128:\u00a00.9824000000953674<\/p>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/c02\/709\/ee7\/c02709ee7870928f431afdaedde5c648.png\" width=\"384\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c02\/709\/ee7\/c02709ee7870928f431afdaedde5c648.png\"\/><\/figure>\n<h3>1024 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430, \u0431\u0430\u0442\u0447\u0438 16-32-64-128<\/h3>\n<p>\u041d\u0443 \u0438 \u0441\u043e\u0432\u0441\u0435\u043c \u0434\u043b\u044f \u044f\u0441\u043d\u043e\u0441\u0442\u0438 \u0441\u0434\u0435\u043b\u0430\u0435\u043c \u0437\u0430\u043c\u0435\u0440 \u043d\u0430 1024 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430, \u0438 \u0432\u0438\u0434\u0438\u043c \u0432\u0441\u0435 \u0442\u043e \u0436\u0435 \u0441\u0430\u043c\u043e\u0435. <br \/>\u041f\u0440\u043e\u0433\u0438\u0431 \u043e\u0448\u0438\u0431\u043a\u0438 \u0441\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043b\u0435\u0432\u0435\u0435 \u0438\u0437-\u0437\u0430 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0448\u0435\u0433\u043e\u0441\u044f \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0438 \u0441\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0430\u0432\u0435\u0435 \u043f\u043e \u043c\u0435\u0440\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u044f \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/7f7\/a39\/6fa\/7f7a396fa1875a20862408ec51184ffa.png\" width=\"601\" height=\"591\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7f7\/a39\/6fa\/7f7a396fa1875a20862408ec51184ffa.png\"\/><\/figure>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/8e9\/dc6\/c62\/8e9dc6c629f57481191ac5fc6b23a32a.png\" width=\"378\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8e9\/dc6\/c62\/8e9dc6c629f57481191ac5fc6b23a32a.png\"\/><\/figure>\n<p>\u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0442\u0430\u043a\u0436\u0435 \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u043e, <br \/>\u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0435 0.9806-0.9841.<\/p>\n<p>batch16:\u00a00.9805999994277954<br \/>batch32:\u00a00.9811999797821045<br \/>batch64:\u00a00.982200026512146<br \/>batch128:\u00a00.9840999841690063<\/p>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/3bc\/785\/e1a\/3bc785e1a040a62a2bb9e33622077287.png\" width=\"384\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3bc\/785\/e1a\/3bc785e1a040a62a2bb9e33622077287.png\"\/><\/figure>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0437\u0430\u043c\u0435\u0442\u043d\u0435\u0435, \u0447\u0442\u043e \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0432 \u0446\u0435\u043b\u043e\u043c \u043f\u043e\u0432\u044b\u0448\u0430\u0435\u0442\u0441\u044f:<\/p>\n<p>128: 0.9769-0.9789<br \/>256: 0.9795-0.9810<br \/>512: 0.9783-0.9824<br \/>1024: 0.9806-0.9841.<\/p>\n<h2>\u041e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u0435\u043c \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435<\/h2>\n<p>\u041e\u0448\u0438\u0431\u043a\u0430 (&#8216;loss&#8217;) \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">\u041f\u0440\u0438\u0437\u043d\u0430\u043a\u0438\\\u0411\u0430\u0442\u0447\u0438<\/p>\n<\/td>\n<td>\n<p align=\"center\">16<\/p>\n<\/td>\n<td>\n<p align=\"center\">32<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"center\">64<\/p>\n<\/td>\n<td>\n<p align=\"center\">128<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"center\">128<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1382<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1004<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.0930<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.0860<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"center\">256<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1268<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1047<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.0843<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.0742<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"center\">512<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1393<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1253<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.0860<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.0717<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"center\">1024<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1615<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1267<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.0957<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.0704<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c (&#8216;accuracy&#8217;) \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td>\n<p align=\"center\">\u041f\u0440\u0438\u0437\u043d\u0430\u043a\u0438\\\u0411\u0430\u0442\u0447\u0438<\/p>\n<\/td>\n<td>\n<p align=\"center\">16<\/p>\n<\/td>\n<td>\n<p align=\"center\">32<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"center\">64<\/p>\n<\/td>\n<td>\n<p align=\"center\">128<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"center\">128<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9772<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9786<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.9789<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9769<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"center\">256<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9795<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9802<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.9785<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9810<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"center\">512<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9789<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9783<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.9815<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9824<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"center\">1024<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9806<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9812<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.9822<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9841<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/7ed\/c7b\/cfe\/7edc7bcfe696f81b074cc80f9d8938e3.png\" width=\"378\" height=\"278\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7ed\/c7b\/cfe\/7edc7bcfe696f81b074cc80f9d8938e3.png\"\/><\/figure>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/787\/0ca\/0f2\/7870ca0f24d27b7f02b449dd819df4a2.png\" width=\"384\" height=\"278\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/787\/0ca\/0f2\/7870ca0f24d27b7f02b449dd819df4a2.png\"\/><\/figure>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/c74\/0a0\/c83\/c740a0c83674381c4e1bcddfda0fca23.png\" width=\"378\" height=\"278\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c74\/0a0\/c83\/c740a0c83674381c4e1bcddfda0fca23.png\"\/><\/figure>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/28b\/46a\/389\/28b46a3890a761dff890be8c61d3e8d3.png\" width=\"384\" height=\"278\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/28b\/46a\/389\/28b46a3890a761dff890be8c61d3e8d3.png\"\/><\/figure>\n<h2>\u041f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0432\u044b\u0432\u043e\u0434\u044b \u043f\u043e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0443 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u0430\u043c \u0431\u0430\u0442\u0447\u0435\u0439<\/h2>\n<p>\u041f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0432\u044b\u0432\u043e\u0434\u044b \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435:<\/p>\n<ol>\n<li>\n<p>\u0421 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430 \u043b\u0438\u043d\u0438\u0438 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0441\u0442\u0430\u043d\u043e\u0432\u044f\u0442\u0441\u044f \u043f\u043b\u0430\u0432\u043d\u0435\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0421 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430 \u043e\u0448\u0438\u0431\u043a\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0437\u0430\u0434\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432\u0432\u0435\u0440\u0445 \u043c\u0435\u043d\u044c\u0448\u0435, \u043f\u0440\u043e\u0433\u0438\u0431 \u0441\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0430\u0432\u0435\u0435, \u0442\u043e \u0435\u0441\u0442\u044c \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442\u0441\u044f.<\/p>\n<\/li>\n<li>\n<p>\u0421 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043e\u0448\u0438\u0431\u043a\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0437\u0430\u0434\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432\u0432\u0435\u0440\u0445 \u0440\u0435\u0437\u0447\u0435, \u043f\u0440\u043e\u0433\u0438\u0431 \u0441\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043b\u0435\u0432\u0435\u0435, \u0442\u043e \u0435\u0441\u0442\u044c \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f.<\/p>\n<\/li>\n<li>\n<p>\u0421 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430 \u043e\u0448\u0438\u0431\u043a\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0432 \u0446\u0435\u043b\u043e\u043c \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442\u0441\u044f.<\/p>\n<\/li>\n<li>\n<p>\u0412 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0441 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430 \u043d\u0435\u043e\u0447\u0435\u0432\u0438\u0434\u043d\u043e, \u0432 \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u043c \u0438\u0442\u043e\u0433\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0438 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u0442\u044c \u0442\u0430\u043a\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0438 \u0442\u0430\u043a\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430, \u0447\u0442\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0448\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0421 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043e\u0448\u0438\u0431\u043a\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0430\u0434\u0430\u0435\u0442, \u0430 \u043f\u043e\u0442\u043e\u043c \u0438\u043b\u0438 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u0442 \u043f\u0430\u0434\u0430\u0442\u044c \u0438\u043b\u0438 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0440\u0430\u0441\u0442\u0438 &#8212; \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0447\u0435\u043c \u043c\u0435\u043d\u044c\u0448\u0435 \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430, \u0442\u0435\u043c \u0432\u044b\u0448\u0435 \u0443\u0445\u043e\u0434\u0438\u0442 \u043e\u0448\u0438\u0431\u043a\u0430, \u0438 \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430, \u0442\u0435\u043c \u043c\u0435\u043d\u044c\u0448\u0435 \u043e\u0448\u0438\u0431\u043a\u0430 \u0438 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0442\u044c \u0441\u043d\u0438\u0436\u0430\u0442\u044c\u0441\u044f. \u0422\u043e \u0435\u0441\u0442\u044c \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043e\u0448\u0438\u0431\u043a\u0430 \u043c\u043e\u0436\u0435\u0442 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0442\u044c\u0441\u044f \u043f\u0440\u0438 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0435\u043c \u043f\u043e\u0434\u0431\u043e\u0440\u0435 \u0440\u0430\u0437\u043c\u0435\u0440\u0435 \u0431\u0430\u0442\u0447\u0430.<\/p>\n<\/li>\n<li>\n<p>\u0421 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0432 \u0446\u0435\u043b\u043e\u043c \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f, \u0438 \u044d\u0442\u043e \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430.<\/p>\n<\/li>\n<li>\n<p>\u0421\u0430\u043c\u044b\u0435 \u043b\u0443\u0447\u0448\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0432 \u0434\u0430\u043d\u043d\u043e\u043c \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u044e\u0442\u0441\u044f \u043f\u0440\u0438 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 (1024) \u043f\u043e \u043c\u0435\u0440\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u044f \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430.<\/p>\n<\/li>\n<\/ol>\n<h2>\u0411\u0435\u0440\u0435\u043c \u0441\u0440\u0430\u0437\u0443 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0431\u0430\u0442\u0447 (batch1024)<\/h2>\n<p>\u041d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445 \u0432\u044b\u0448\u0435 \u0432\u0438\u0434\u043d\u043e, \u043a\u0430\u043a \u043b\u0438\u043d\u0438\u0438 \u0441\u0433\u043b\u0430\u0436\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430, \u0430 \u043d\u0430 \u0440\u0430\u0437\u043c\u0435\u0440\u0435 128 \u043e\u0448\u0438\u0431\u043a\u0430 \u043a\u0430\u043a \u0431\u044b \u0437\u0430\u0432\u0438\u0441\u0430\u0435\u0442. \u0422\u0430\u043a \u0438 \u0445\u043e\u0447\u0435\u0442\u0441\u044f \u0432\u0437\u044f\u0442\u044c \u0431\u0430\u0442\u0447 \u0435\u0449\u0435 \u043f\u043e\u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0442\u043e\u0431\u044b \u043e\u0448\u0438\u0431\u043a\u0430 \u0434\u0432\u0438\u0433\u0430\u043b\u0430\u0441\u044c \u0432\u043d\u0438\u0437. \u0414\u0435\u043b\u0430\u0435\u043c \u0441\u043a\u0430\u0447\u043e\u043a \u0438 \u0431\u0435\u0440\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430 1024.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/498\/4bc\/5fd\/4984bc5fd39644f02374c1fabc5f5bac.png\" width=\"595\" height=\"591\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/498\/4bc\/5fd\/4984bc5fd39644f02374c1fabc5f5bac.png\"\/><\/figure>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/8be\/f2b\/99f\/8bef2b99f0f8b7916581c81e8b997a43.png\" width=\"378\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8be\/f2b\/99f\/8bef2b99f0f8b7916581c81e8b997a43.png\"\/><\/figure>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/843\/586\/447\/84358644711c033f328cec6f2418746f.png\" width=\"378\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/843\/586\/447\/84358644711c033f328cec6f2418746f.png\"\/><\/figure>\n<p>\u041c\u043e\u0436\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e \u0432\u0441\u0435 \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u043e: <br \/>1. \u043b\u0438\u043d\u0438\u0438 \u0433\u043b\u0430\u0434\u043a\u0438\u0435;<br \/>2. \u043e\u0448\u0438\u0431\u043a\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u043f\u043e\u0441\u0442\u0435\u043f\u0435\u043d\u043d\u043e \u0441\u043d\u0438\u0436\u0430\u0435\u0442\u0441\u044f;<br \/>3. \u043b\u0438\u043d\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438 \u0438\u0434\u0443\u0442 \u0440\u043e\u0432\u043d\u0435\u043d\u044c\u043a\u043e \u043e\u0434\u043d\u0430 \u0437\u0430 \u0434\u0440\u0443\u0433\u043e\u0439 &#8212; \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0431\u0430\u0442\u0447, \u0442\u0435\u043c \u043d\u0438\u0436\u0435 \u043b\u0438\u043d\u0438\u044f:<br \/>4. \u043b\u0438\u043d\u0438\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u0442\u0430\u043a\u0436\u0435 \u0438\u0434\u0443\u0442 \u0440\u043e\u0432\u043d\u0435\u043d\u044c\u043a\u043e \u043e\u0434\u043d\u0430 \u0437\u0430 \u0434\u0440\u0443\u0433\u043e\u0439 &#8212; \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0431\u0430\u0442\u0447, \u0442\u0435\u043c \u0432\u044b\u0448\u0435 \u043b\u0438\u043d\u0438\u044f<\/p>\n<p>\u0414\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u0442\u0430\u043b\u043e \u0437\u0430\u043c\u0435\u0442\u043d\u043e, \u0447\u0442\u043e \u043f\u0435\u0440\u0435\u0441\u0435\u0447\u0435\u043d\u0438\u044f \u043b\u0438\u043d\u0438\u0439 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0438 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043e\u043a \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u044f\u0442 \u043b\u0435\u0432\u0435\u0435, \u0442\u043e \u0435\u0441\u0442\u044c \u0440\u0430\u043d\u044c\u0448\u0435, \u043f\u043e \u043c\u0435\u0440\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u044f \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432.<\/p>\n<p>\u0422\u0430\u043a\u0436\u0435 \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u0437\u0434\u0435\u0441\u044c \u0443\u0436\u0435 \u043d\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u044d\u043f\u043e\u0445 \u0438 \u043e\u043f\u0442\u0438\u043c\u0443\u043c \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0433\u0434\u0435-\u0442\u043e \u043f\u0440\u0430\u0432\u0435\u0435.<\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u043f\u043e\u043d\u044f\u0442\u0435\u043d \u043e\u0431\u0449\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043a \u043f\u043e\u0434\u0431\u043e\u0440\u0443 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432: <br \/>1. \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0442\u044c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432;<br \/>2. \u043f\u043e\u0434 \u043d\u043e\u0432\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043f\u043e\u0434\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430, \u0447\u0442\u043e\u0431\u044b \u0441\u0434\u0432\u0438\u0433\u0430\u0442\u044c \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0430 \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0437\u0434\u043d\u0438\u0439 \u0441\u0440\u043e\u043a;<br \/>3. \u043e\u0442\u0441\u043b\u0435\u0436\u0438\u0432\u0430\u0442\u044c, \u043a\u043e\u0433\u0434\u0430 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435.<\/p>\n<p>\u0410\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 &#8212; \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c, \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u044e\u0449\u0443\u044e  \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u0435 \u0438 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044e, \u043a\u0430\u043a \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u043e\u0442 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0438 \u043d\u0430\u0434\u0441\u0442\u0440\u043e\u0438\u0442\u044c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0443\u044e &#171;\u0443\u043f\u0440\u0430\u0432\u043b\u044f\u044e\u0449\u0443\u044e&#187; \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0443\u044e \u0441\u0435\u0442\u044c, \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u044e\u0449\u0443\u044e \u043e\u043f\u0442\u0438\u043c\u0443\u043c \u0434\u0430\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u043c \u0434\u043b\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c. \u041f\u043e\u0434\u0431\u043e\u0440 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u043c\u0435\u0442\u0440\u043e\u0432 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e &#171;\u0443\u043f\u0440\u0430\u0432\u043b\u044f\u044e\u0449\u0435\u0439&#187; \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 &#8212; \u0442\u0435\u043c\u0430 \u0434\u043b\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438.<\/p>\n<h2>\u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u0435 \u0448\u0430\u0433\u0430<\/h2>\n<p>\u0417\u0430\u043f\u0443\u0441\u0442\u0438\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0441 batch128 \u0441\u0440\u0430\u0437\u0443 \u043d\u0430 100 \u044d\u043f\u043e\u0445, <br \/>\u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u0435\u0439 128-512-2048-8192.<\/p>\n<p>\u041a\u043e\u043d\u0435\u0447\u043d\u043e, \u0431\u0443\u0434\u0435\u0442 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435.<br \/>\u0421\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u044f, \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u044e\u0449\u0430\u044f \u043b\u0443\u0447\u0448\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b (ModelCheckpoint). \u041e\u0434\u043d\u0430\u043a\u043e \u043d\u0430\u0448\u0430 \u0437\u0430\u0434\u0430\u0447\u0430 &#8212; \u0430\u043a\u0430\u0434\u0435\u043c\u0438\u0447\u0435\u0441\u043a\u0430\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0442\u044c \u043b\u0443\u0447\u0448\u0438\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0435 \u0431\u0443\u0434\u0435\u043c, \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0433\u0440\u0430\u0444\u0438\u043a\u0438 100 \u044d\u043f\u043e\u0445, \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u043f\u0440\u0438\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u043c \u043d\u0430 \u0441\u043b\u0443\u0447\u0430\u0439, \u0435\u0441\u043b\u0438 \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u0438\u0442\u0441\u044f.<\/p>\n<pre><code>\u0441heckpoint = ModelCheckpoint('mnist-fnn.h5',                                monitor='val_acc',                                save_best_only=True,                               verbose=1)<\/code><\/pre>\n<p>\u041f\u043e\u043d\u0438\u043c\u0430\u044f, \u0447\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435, \u0434\u043e\u0431\u0430\u0432\u0438\u043c \u0441\u0440\u0430\u0437\u0443 \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u0435 \u0448\u0430\u0433\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<br \/>\u0423\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u043c \u0448\u0430\u0433 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432 \u0434\u0432\u0430 \u0440\u0430\u0437\u0430, \u0435\u0441\u043b\u0438 \u0437\u0430\u0434\u0430\u043d\u043d\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u044d\u043f\u043e\u0445 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0435 \u043f\u043e\u0432\u044b\u0448\u0430\u0435\u0442\u0441\u044f. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u0437\u0430\u0434\u0430\u0442\u044c \u0438 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u043f\u043e\u0440\u043e\u0433\u043e\u0432\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0448\u0430\u0433\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/p>\n<pre><code>reduce_on_plateau = ReduceLROnPlateau(monitor='val_accuracy',                                              patience=3,                                              verbose=1,                                              factor=0.5,                                              min_lr=0.0000001                                       )<\/code><\/pre>\n<p>\u0418\u0437 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u0442\u0435\u0441\u0442\u0438\u0440\u0443\u0435\u043c\u044b\u0445 \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0439 \u043b\u0443\u0447\u0448\u0430\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0431\u044b\u043b\u0430 0.9869 (8192 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430, \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u0435 \u0448\u0430\u0433\u0430 \u0432 \u0434\u0432\u0430 \u0440\u0430\u0437\u0435, \u0435\u0441\u043b\u0438 \u0432 \u0442\u0435\u0447\u0435\u043d\u0438\u0435 3 \u044d\u043f\u043e\u0445 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f, \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u043d\u0430 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u0448\u0430\u0433 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 e-07). <\/p>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/726\/f9f\/a49\/726f9fa499c1ab76ff69047a49d99de2.png\" width=\"378\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/726\/f9f\/a49\/726f9fa499c1ab76ff69047a49d99de2.png\"\/><\/figure>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/e39\/5c1\/2ef\/e395c12ef17b41148ed7fe379b6fd7e3.png\" width=\"378\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e39\/5c1\/2ef\/e395c12ef17b41148ed7fe379b6fd7e3.png\"\/><\/figure>\n<h2>\u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c Dropout<\/h2>\n<p>\u0414\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f: <\/p>\n<p>20 \u044d\u043f\u043e\u0445 1024 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u0434\u0430\u0432\u0430\u043b\u0438 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 : <br \/>batch16: 0.9806  <br \/>batch32: 0.9812  <br \/>batch64: 0.9822  <br \/>batch128: 0.9841  <\/p>\n<p>100 \u044d\u043f\u043e\u0445 batch128 \u0441 \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u0435\u043c \u0448\u0430\u0433\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0434\u0430\u0432\u0430\u043b\u0438 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 : <br \/>128 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432: 0.9787 <br \/>512 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432: 0.9822  <br \/>2048 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432: 0.9849  <br \/>8192 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430: 0.9869  <\/p>\n<p>\u0421 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435\u043c Dropout (0.1-0.2-0.3-0.4-0.5) 100\u00a0\u044d\u043f\u043e\u0445,\u00a01024\u00a0\u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430,\u00a0batch128, \u0431\u0435\u0437\u00a0\u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u044f\u00a0\u0448\u0430\u0433\u0430 &#8212; \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c 0.9854 \u043d\u0430 Dropout 0.5. <\/p>\n<p>\u0417\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0439 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043f\u043e\u0432\u044b\u0441\u0438\u043b\u0430\u0441\u044c \u0434\u043e 0.9860 <br \/>(4096 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, batch512, Dropout 0.8, \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u0435 \u0448\u0430\u0433\u0430 \u0432 2 \u0440\u0430\u0437\u0430, \u0435\u0441\u043b\u0438 3 \u044d\u043f\u043e\u0445\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0435 \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0435\u0442\u0441\u044f). <\/p>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/339\/203\/59b\/33920359b8c28614aecc261f572c3d9b.png\" width=\"384\" height=\"264\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/339\/203\/59b\/33920359b8c28614aecc261f572c3d9b.png\"\/><\/figure>\n<p>\u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0434\u043e\u043f\u0443\u0441\u043a\u0430\u0435\u043c, \u0447\u0442\u043e \u0432\u043e \u0432\u0441\u0435\u0445 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0445 \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043d\u0435 \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0435, \u043d\u043e \u0432\u043f\u043e\u043b\u043d\u0435 \u043c\u043e\u0433\u0443\u0442 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0442\u044c\u0441\u044f \u0434\u043b\u044f \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u043d\u043e\u0433\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f.<\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0432 \u0440\u044f\u0434\u0435 \u0441\u043b\u0443\u0447\u0430\u0435\u0432 (\u043d\u043e \u043d\u0435 \u0432\u043e \u0432\u0441\u0435\u0445) \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435 Dropout \u0434\u0430\u0435\u0442 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0432\u044b\u0448\u0435, \u0447\u0435\u043c \u0431\u0435\u0437 Dropout \u0432 \u0441\u043b\u0443\u0447\u0430\u0435 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u043c\u0443\u044e \u0441 \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u0435\u043c \u0448\u0430\u0433\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043f\u0440\u0438 \u0441\u0445\u043e\u0436\u0438\u0445 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u0430\u0445 \u0431\u0430\u0442\u0447\u0435\u0439. \u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u044b\u0439 \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440 \u0434\u043b\u044f \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f Dropout &#8212; \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u0438 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0435\u0435 \u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043f\u0440\u0438 \u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u0438 \u043f\u0440\u0438\u0435\u043c\u043b\u0435\u043c\u044b\u0445 \u0438 \u043d\u0435 \u0441\u0430\u043c\u044b\u0445 \u0432\u044b\u0441\u043e\u043a\u0438\u0445 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u0435\u0439 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438.<\/p>\n<h2>\u0412\u044b\u0432\u043e\u0434\u044b<\/h2>\n<p>\u0412\u044b\u0432\u043e\u0434\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438\u0441\u044c \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0435.<\/p>\n<p>1. \u0421\u0435\u0442\u044c \u043c\u0433\u043d\u043e\u0432\u0435\u043d\u043d\u043e \u0434\u043e\u0445\u043e\u0434\u0438\u0442 \u0434\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 97,7-97.8%, \u0438 \u0442\u0430\u043a\u0430\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0435\u0442\u0441\u044f &#171;\u043b\u0435\u0433\u043a\u043e \u0438 \u0441\u0440\u0430\u0437\u0443&#187;.<\/p>\n<p>2. \u0421\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 1% \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 (\u0434\u043e 98.7%) \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0435\u0442\u0441\u044f \u0443\u0436\u0435 \u0441 \u0442\u0440\u0443\u0434\u043e\u043c, \u043d\u0443\u0436\u043d\u043e \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0442\u044c.<\/p>\n<p>3. \u0417\u0430\u0431\u0435\u0433\u0430\u044f \u0432\u043f\u0435\u0440\u0435\u0434, \u043c\u043e\u0436\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e CNN \u0434\u0430\u044e\u0442 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0432\u044b\u0448\u0435 99.5%, \u043d\u043e \u044d\u0442\u043e\u0442 &#171;\u043a\u0440\u0430\u0439\u043d\u0438\u0439&#187; \u043f\u0440\u043e\u0446\u0435\u043d\u0442 (\u0432\u044b\u0448\u0435 99%) \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0435\u0442\u0441\u044f \u0443\u0436\u0435 \u0441 \u043e\u0447\u0435\u043d\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u0442\u0440\u0443\u0434\u043e\u043c.<\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u0430\u044f &#171;\u043f\u043e\u0440\u043e\u0433\u043e\u0432\u0430\u044f&#187; \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c (\u0432 \u0434\u0430\u043d\u043d\u043e\u043c \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u043f\u043e\u0440\u044f\u0434\u043a\u0430 97.7%) \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0435\u0442\u0441\u044f \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e \u0438 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e, \u0438 \u0437\u0430 \u044d\u0442\u043e\u0442 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c \u043c\u043e\u0436\u043d\u043e \u0441\u043c\u0435\u043b\u043e \u043f\u043e\u0434\u043f\u0438\u0441\u044b\u0432\u0430\u0442\u044c\u0441\u044f \u0438 \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0442\u044c \u043a\u043e\u043d\u0442\u0440\u0430\u043a\u0442, \u0430 \u0432\u043e\u0442 \u043f\u043e\u0441\u043b\u0435 \u044d\u0442\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043a\u0430\u0436\u0434\u0430\u044f \u0434\u0435\u0441\u044f\u0442\u0430\u044f \u0438 \u0434\u0430\u0436\u0435 \u0441\u043e\u0442\u0430\u044f \u0434\u043e\u043b\u044f \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u0430 \u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u0442\u044c \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0445 \u0443\u0441\u0438\u043b\u0438\u0439.<\/p>\n<p>\u041a\u0430\u0441\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0431\u0449\u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u043f\u043e\u0434\u0431\u043e\u0440\u0430 \u043a\u0440\u0430\u0442\u043a\u0438\u0439 \u0432\u044b\u0432\u043e\u0434 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0441\u044f \u0442\u0430\u043a\u043e\u0439:<br \/>\u041d\u0443\u0436\u043d\u043e \u0431\u0440\u0430\u0442\u044c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 &#171;\u043f\u043e\u0431\u043e\u043b\u044c\u0448\u0435&#187; (\u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0449\u043d\u043e\u0441\u0442\u0438 \u0438 \u0432\u0440\u0435\u043c\u044f) \u0438 \u0441\u043b\u0435\u0434\u0438\u0442\u044c, \u0447\u0442\u043e\u0431\u044b \u0441\u0435\u0442\u044c \u043d\u0435 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0430\u043b\u0430\u0441\u044c. \u0414\u043b\u044f \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044f \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430 \u0438 dropout, \u0430 \u0434\u043b\u044f \u043e\u043a\u043e\u043d\u0447\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e &#171;\u0448\u043b\u0438\u0444\u043e\u0432\u0430\u043d\u0438\u044f&#187; \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0442\u044c \u0441\u0445\u0435\u043c\u0443 \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u044f \u0448\u0430\u0433\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/p>\n<h2>\u0427\u0442\u043e \u0434\u0430\u043b\u044c\u0448\u0435<\/h2>\n<p>\u0412\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u043c \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 FNN \u0432 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u043b\u043e\u0435\u0432, \u0430 \u0442\u0430\u043a\u0436\u0435 \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 CNN \u0432 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u043b\u043e\u0435\u0432 \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u0430\u043c\u0438 \u044f\u0434\u0435\u0440.<\/p>\n<p>\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u043c \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u043c \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0435 &#171;\u0443\u043f\u0440\u0430\u0432\u043b\u044f\u044e\u0449\u0435\u0439&#187; \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438, \u043a\u043e\u0442\u043e\u0440\u0430\u044f &#171;\u0441\u0430\u043c\u043e\u0441\u0442\u043e\u044f\u0442\u0435\u043b\u044c\u043d\u043e&#187; \u0431\u0443\u0434\u0435\u0442 \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0442\u044c \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 \u0438 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b &#171;\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0438\u0440\u0443\u0435\u043c\u044b\u0445&#187; \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439.<\/p>\n<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p> <!----> <!----><\/div>\n<p> <!----> <!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/post\/724418\/\"> https:\/\/habr.com\/ru\/post\/724418\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<h2>\u0414\u043b\u044f \u0447\u0435\u0433\u043e<\/h2>\n<p>\u041f\u0440\u0438 \u0438\u0437\u0443\u0447\u0435\u043d\u0438\u0438 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u0435\u0442\u0441\u044f \u043c\u043d\u043e\u0433\u043e \u043d\u043e\u0432\u043e\u0439 \u0442\u0435\u043e\u0440\u0438\u0438 \u0438 \u043d\u043e\u0432\u044b\u0445 \u0442\u0435\u0440\u043c\u0438\u043d\u043e\u0432. \u042d\u0442\u043e \u0443\u0441\u0432\u0430\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0441\u0438\u043b\u044c\u043d\u043e \u043b\u0443\u0447\u0448\u0435, \u0435\u0441\u043b\u0438 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0432\u0440\u0435\u043c\u044f &#171;\u043f\u043e\u0438\u0433\u0440\u0430\u0442\u044c \u0441 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438&#187;. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u044b \u0432\u0437\u044f\u043b\u0438 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0448\u0438\u0440\u043e\u043a\u043e\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 \u0434\u0430\u0442\u0430\u0441\u0435\u0442 (MNIST, \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f \u0440\u0443\u043a\u043e\u043f\u0438\u0441\u043d\u044b\u0445 \u0446\u0438\u0444\u0440), \u043f\u0440\u043e\u0441\u0442\u0443\u044e \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u0443\u044e FNN (\u041d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f) \u0438 \u043f\u043e\u0434\u0432\u0438\u0433\u0430\u043b\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0432 \u0440\u0430\u0437\u043d\u044b\u0435 \u0441\u0442\u043e\u0440\u043e\u043d\u044b, \u043e\u0442\u043c\u0435\u0447\u0430\u044f \u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u044f, \u0447\u0442\u043e \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442.<\/p>\n<p>\u041a\u043e\u043d\u0435\u0447\u043d\u043e, \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0434\u043b\u044f \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044f \u0438 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u043b\u0443\u0447\u0448\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0442\u044c \u043d\u0435 FNN (\u041d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0435 \u0441\u0435\u0442\u0438 \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f), \u0430 CNN (\u0421\u0432\u0435\u0440\u0442\u043e\u0447\u043d\u044b\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0435 \u0441\u0435\u0442\u0438), \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u0438 \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0435. \u0421 \u044d\u0442\u0438\u043c \u0441\u043e\u0433\u043b\u0430\u0441\u043d\u044b, \u0438 \u0446\u0435\u043b\u044c\u044e \u0434\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043d\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u043e\u043f\u044b\u0442\u043a\u0430 \u043f\u0440\u0435\u0432\u044b\u0441\u0438\u0442\u044c \u043d\u0430 FNN \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044f \u043d\u0430 CNN. \u0412 \u0434\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043c\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u043e\u0434\u0432\u0438\u0433\u0430\u0435\u043c \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0438 \u0441\u0434\u0435\u043b\u0430\u0435\u043c \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u0432\u044b\u0432\u043e\u0434\u044b. <\/p>\n<p>\u041f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u0432\u044b\u0432\u043e\u0434\u044b \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u043b\u0435\u0437\u043d\u044b \u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043c\u044b \u0432\u043f\u043e\u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0438, \u043a\u043e\u0433\u0434\u0430 \u0434\u043b\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u0437\u0430\u0434\u0430\u0447 \u0431\u0443\u0434\u0435\u0442 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e &#171;\u0442\u044e\u043d\u0438\u0442\u044c&#187; \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u0441\u0432\u0435\u0440\u0442\u043e\u0447\u043d\u044b\u0435 \u0441\u0435\u0442\u0438 &#8212; \u043c\u0435\u043d\u044f\u0442\u044c \u0448\u0442\u0430\u0442\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440 (\u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 \u0441\u043b\u043e\u0438) \u043d\u0430 \u0441\u0432\u043e\u0439 &#8212; \u0432 \u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043a\u0430\u043a \u0440\u0430\u0437 \u0438 \u043f\u0440\u0438\u0433\u043e\u0434\u0438\u0442\u0441\u044f \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432.<\/p>\n<h2>\u041e\u0431\u0449\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434<\/h2>\n<p>\u041e\u0431\u0449\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u0442\u0430\u043a\u043e\u0439: \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u043c \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0438 \u043e\u0431\u0443\u0447\u0430\u0435\u043c \u0441\u0435\u0442\u044c, \u043f\u043e\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u044f \u043f\u043e\u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439. \u0422\u0435\u0441\u0442\u0438\u0440\u0443\u0435\u043c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430 \u0438 \u0442\u0430\u043a \u0434\u0430\u043b\u0435\u0435.<\/p>\n<h2>\u041f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0430 \u0434\u0430\u043d\u043d\u044b\u0445<\/h2>\n<p>\u041f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e, \u043a\u0430\u043a \u0438 \u0432 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0435 \u0440\u043e\u043b\u0438\u043a\u043e\u0432 \u0438 \u0441\u0442\u0430\u0442\u0435\u0439 \u043f\u043e MNIST, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e\u0441\u043e\u0431\u043e \u043d\u0435 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0438\u0440\u0443\u0435\u043c, \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0440\u0438\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u043c.<\/p>\n<details class=\"spoiler\">\n<summary>\u0411\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438<\/summary>\n<div class=\"spoiler__content\">\n<pre><code>import numpy as np import matplotlib.pyplot as plt %matplotlib inline  import keras  from keras.models import Sequential from keras.layers import Dense, Flatten, Dropout from keras.datasets import mnist  from keras.callbacks import ReduceLROnPlateau from keras.callbacks import ModelCheckpoint <\/code><\/pre>\n<\/p>\n<\/div>\n<\/details>\n<details class=\"spoiler\">\n<summary>\u0421\u043a\u0430\u0447\u0438\u0432\u0430\u043d\u0438\u0435 \u0438 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0445<\/summary>\n<div class=\"spoiler__content\">\n<pre><code># \u0421\u043a\u0430\u0447\u0438\u0432\u0430\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u0441\u0440\u0430\u0437\u0443 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u043c \u043d\u0430 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0443\u044e \u0438 \u0442\u0435\u0441\u0442\u043e\u0432\u0443\u044e \u0432\u044b\u0431\u043e\u0440\u043a\u0438 (x_train, y_train), (x_test, y_test) = mnist.load_data()  # \u041f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435 \u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b [0,1] x_train = x_train \/ 255 x_test = x_test \/ 255  y_train_cat = keras.utils.to_categorical(y_train, 10) y_test_cat = keras.utils.to_categorical(y_test, 10)<\/code><\/pre>\n<\/p>\n<\/div>\n<\/details>\n<details class=\"spoiler\">\n<summary>\u041f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e\u0441\u0442\u0438 \u0434\u0430\u043d\u043d\u044b\u0445<\/summary>\n<div class=\"spoiler__content\">\n<pre><code># \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u0444\u043e\u0440\u043c\u044b print(x_train.shape, y_train.shape, x_test.shape, y_test.shape)  # \u0432\u044b\u0432\u043e\u0434\u0438\u043c \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 print(x_train[7777])  \u0432\u044b\u0432\u043e\u0434\u0438\u043c \u043c\u0435\u0442\u043a\u0443 \u043a\u043b\u0430\u0441\u0441\u0430 print(y_train[7777])  # \u0432\u044b\u0432\u043e\u0434\u0438\u043c \u043c\u0435\u0442\u043a\u0443 \u043a\u043b\u0430\u0441\u0441\u0430 \u0432 one-hot-codding print(y_train_cat[7777])  # \u0412\u044b\u0432\u043e\u0434\u0438\u043c \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 plt.imshow(x_train[7777], cmap='binary') plt.axis('off') # \u0431\u0435\u0437 \u043e\u0441\u0435\u0439 plt.show()  # \u0412\u044b\u0432\u043e\u0434\u0438\u043c \u043f\u0435\u0440\u0432\u044b\u0445 25 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0438\u0437 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 plt.figure(figsize=(20,10)) for i in range(25):     plt.subplot(5,5,i+1)     plt.xticks([])     plt.yticks([])     plt.imshow(x_train[i], cmap=plt.cm.binary)  plt.show()<\/code><\/pre>\n<\/p>\n<\/div>\n<\/details>\n<h2>\u0411\u0430\u0437\u043e\u0432\u0430\u044f \u043a\u043e\u043c\u043f\u043b\u0435\u043a\u0442\u0430\u0446\u0438\u044f \u0441\u0435\u0442\u0438<\/h2>\n<p>\u0411\u0435\u0440\u0435\u043c \u0441\u0430\u043c\u044b\u0439 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442: <\/p>\n<p>FNN: \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u0441\u043b\u043e\u0439, \u043e\u0434\u0438\u043d \u0441\u043a\u0440\u044b\u0442\u044b\u0439 \u0441\u043b\u043e\u0439, \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0439 \u0441\u043b\u043e\u0439;<br \/>\u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 10 \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 (\u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e 10 \u0446\u0438\u0444\u0440 = 10 \u043a\u043b\u0430\u0441\u0441\u043e\u0432);<br \/>\u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 &#8212; &#171;relu&#187; \u0438 &#171;softmax&#187; (\u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442);<br \/>\u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c &#8212; &#171;categorical_crossentropy&#187; (\u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442, \u043a\u043e\u0433\u0434\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043a\u043b\u0430\u0441\u0441\u043e\u0432);<br \/>\u043c\u0435\u0442\u0440\u0438\u043a\u0430 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 &#8212; &#171;accuracy&#187; (\u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442);<br \/>\u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440 &#8212; &#171;adam&#187; (\u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442);<br \/>\u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430 &#8212; 32 (\u043d\u0430\u0434\u043e \u0441 \u0447\u0435\u0433\u043e-\u0442\u043e \u043d\u0430\u0447\u0438\u043d\u0430\u0442\u044c);<br \/>\u0440\u0430\u0437\u043c\u0435\u0440 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 &#8212; 20% (\u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442).<\/p>\n<p>\u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c \u043f\u0435\u0440\u0432\u044b\u0439 \u0440\u0430\u0437 \u043d\u0430 20 \u044d\u043f\u043e\u0445 \u0438 \u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u0447\u0442\u043e \u043a \u0447\u0435\u043c\u0443. <\/p>\n<pre><code>model = keras.Sequential([     Flatten(input_shape=(28, 28, 1)),     Dense(128, activation='relu'),     Dense(10, activation='softmax')     ])  model.compile(     optimizer='adam',     loss='categorical_crossentropy',     metrics=['accuracy']     )  history = model.fit(     x_train, y_train_cat,      batch_size=32,      epochs=20,      validation_split=0.2     )<\/code><\/pre>\n<p>\u0412\u044b\u0432\u043e\u0434\u0438\u043c \u0446\u0438\u0444\u0440\u044b &#8230;<\/p>\n<pre><code>print('train:', model.evaluate(x_train, y_train_cat, verbose = 0)) print('test:', model.evaluate(x_test, y_test_cat, verbose = 0)) print( 'val_loss:', np.argmin(history.history['val_loss']), history.history['val_loss'][np.argmin(history.history['val_loss'])] ) print( 'val_accuracy:', np.argmax(history.history['val_accuracy']), history.history['val_accuracy'][np.argmax(history.history['val_accuracy'])] )<\/code><\/pre>\n<p>train:\u00a0[0.023798486217856407,\u00a00.9946833252906799]<br \/>test:\u00a0[0.09774788469076157,\u00a00.9769999980926514]<br \/>val_loss:\u00a07\u00a00.08434651792049408<br \/>val_accuracy:\u00a018\u00a00.9779166579246521<\/p>\n<p> &#8230; \u0438 \u0433\u0440\u0430\u0444\u0438\u043a\u0438.<\/p>\n<pre><code>plt.plot(list(range(1,len(history.history['loss'])+1)),history.history['loss']) plt.plot(list(range(1,len(history.history['val_loss'])+1)),history.history['val_loss']) plt.title(\"loss and val_loss\") plt.grid(True) plt.show()<\/code><\/pre>\n<figure class=\"\"><\/figure>\n<pre><code>plt.plot(list(range(1,len(history.history['accuracy'])+1)),history.history['accuracy']) plt.plot(list(range(1,len(history.history['val_accuracy'])+1)),history.history['val_accuracy']) plt.title(\"accuracy and val_accuracy\") plt.grid(True) plt.show()<\/code><\/pre>\n<figure class=\"\"><\/figure>\n<p>\u0412 \u043f\u0435\u0440\u0432\u043e\u043c \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0438\u0438 \u0432\u0438\u0434\u0438\u043c, \u0447\u0442\u043e \u0432\u0441\u0435 &#171;\u043a\u0430\u043a \u043f\u043e \u0443\u0447\u0435\u0431\u043d\u0438\u043a\u0443&#187;: <\/p>\n<p>\u043e\u0448\u0438\u0431\u043a\u0430 \u043d\u0430 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442\u0441\u044f;<br \/>\u043e\u0448\u0438\u0431\u043a\u0430 \u043d\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442\u0441\u044f, \u043f\u043e\u0442\u043e\u043c \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f &#8212; \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435;<br \/>\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u0438\u0442 \u0432\u043f\u043b\u043e\u0442\u043d\u0443\u044e \u043a 1.0;<br \/>\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0434\u043e\u0445\u043e\u0434\u0438\u0442 \u0434\u043e 0.978;<br \/>\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 0.977.<\/p>\n<p>\u041e\u0442\u0441\u044e\u0434\u0430 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u043c \u043f\u0435\u0440\u0435\u0431\u0438\u0440\u0430\u0442\u044c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b.<\/p>\n<h2>128 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0431\u0430\u0442\u0447\u0438 16-32-64-128<\/h2>\n<figure class=\"full-width\"><\/figure>\n<p>\u0412\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u0447\u0435\u043c\u00a0\u0431\u043e\u043b\u044c\u0448\u0435\u00a0\u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430,\u00a0\u0442\u0435\u043c\u00a0\u043f\u043b\u0430\u0432\u043d\u0435\u0435\u00a0\u043b\u0438\u043d\u0438\u0438 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438.<br \/>\u0422\u0430\u043a\u0436\u0435 \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430 \u043e\u0448\u0438\u0431\u043a\u0430 \u043d\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0437\u0430\u0434\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432\u0432\u0435\u0440\u0445 \u043c\u0435\u043d\u044c\u0448\u0435, \u043f\u0440\u043e\u0433\u0438\u0431 \u0441\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0430\u0432\u0435\u0435, \u0442\u043e \u0435\u0441\u0442\u044c \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043c\u0435\u043d\u044c\u0448\u0435.<\/p>\n<figure class=\"\"><\/figure>\n<p>\u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u00a0\u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0443\u00a0\u0432\u0441\u0435x\u00a0\u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u0430\u044f, <br \/>\u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0435 0.9769-0.9789,<br \/>\u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0432 \u0434\u0435\u0441\u044f\u0442\u044b\u0435 \u0438 \u0441\u043e\u0442\u044b\u0435 \u0434\u043e\u043b\u0438 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u0430.<\/p>\n<p>batch16:\u00a00.9771999716758728<br \/>batch32:\u00a00.978600025177002<br \/>batch64:\u00a00.9789000153541565<br \/>batch128:\u00a00.9768999814987183<\/p>\n<figure class=\"\"><\/figure>\n<h3>256 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0431\u0430\u0442\u0447\u0438 16-32-64-128<\/h3>\n<p>\u041f\u0440\u0438\u043d\u0446\u0438\u043f\u0438\u0430\u043b\u044c\u043d\u043e, \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u0442\u0430 \u0436\u0435, \u0447\u0442\u043e \u0438 \u043f\u0440\u0438 128 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430\u0445.<br \/>\u0421\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0445 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439 \u043f\u0440\u0438 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0435 \u043e\u0442 128 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043a 256 \u043d\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u0442\u0441\u044f.<\/p>\n<figure class=\"full-width\"><\/figure>\n<figure class=\"\"><\/figure>\n<p>\u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0442\u0430\u043a\u0436\u0435 \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u043e, <br \/>\u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0435 0.9795-0.9810,<br \/>\u0447\u0442\u043e \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 0.9769-0.9789 (\u043d\u0430 128) \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0442\u0430\u043c \u0436\u0435.<\/p>\n<p>batch16:\u00a00.9794999957084656<br \/>batch32:\u00a00.9801999926567078<br \/>batch64:\u00a00.9785000085830688<br \/>batch128:\u00a00.9810000061988831<\/p>\n<figure class=\"\"><\/figure>\n<h3>512 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0431\u0430\u0442\u0447\u0438 16-32-64-128<\/h3>\n<p>\u0421\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u0441 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0441\u0442\u044c\u044e \u0441\u0442\u0430\u043b\u0430 \u0431\u043e\u043b\u0435\u0435 \u0437\u0430\u043c\u0435\u0442\u043d\u0430. <br \/>\u041e\u0448\u0438\u0431\u043a\u0430 \u043d\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0437\u0430\u0434\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432\u0432\u0435\u0440\u0445 \u043f\u043e\u0440\u0435\u0437\u0447\u0435.\u0438 \u043f\u0440\u043e\u0433\u0438\u0431 \u0441\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043b\u0435\u0432\u0435\u0435.<\/p>\n<figure class=\"full-width\"><\/figure>\n<figure class=\"\"><\/figure>\n<p>\u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0442\u0430\u043a\u0436\u0435 \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u043e, <br \/>\u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0435 0.9783-0.9824<br \/>\u0447\u0442\u043e \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 0.9795-0.9810 (256) \u0438 0.9769-0.9789 (128) \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0442\u0430\u043c \u0436\u0435, <br \/>\u0445\u043e\u0442\u044f \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u0441 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0447\u0438\u0441\u043b\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0432\u0441\u0435 \u0442\u0430\u043a\u0438 \u043d\u0430 \u0447\u0443\u0442\u044c-\u0447\u0443\u0442\u044c \u043f\u043e\u0432\u044b\u0448\u0430\u0435\u0442\u0441\u044f.<\/p>\n<p>batch16:\u00a00.9789000153541565<br \/>batch32:\u00a00.9782999753952026<br \/>batch64:\u00a00.9815000295639038<br \/>batch128:\u00a00.9824000000953674<\/p>\n<figure class=\"\"><\/figure>\n<h3>1024 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430, \u0431\u0430\u0442\u0447\u0438 16-32-64-128<\/h3>\n<p>\u041d\u0443 \u0438 \u0441\u043e\u0432\u0441\u0435\u043c \u0434\u043b\u044f \u044f\u0441\u043d\u043e\u0441\u0442\u0438 \u0441\u0434\u0435\u043b\u0430\u0435\u043c \u0437\u0430\u043c\u0435\u0440 \u043d\u0430 1024 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430, \u0438 \u0432\u0438\u0434\u0438\u043c \u0432\u0441\u0435 \u0442\u043e \u0436\u0435 \u0441\u0430\u043c\u043e\u0435. <br \/>\u041f\u0440\u043e\u0433\u0438\u0431 \u043e\u0448\u0438\u0431\u043a\u0438 \u0441\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043b\u0435\u0432\u0435\u0435 \u0438\u0437-\u0437\u0430 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0448\u0435\u0433\u043e\u0441\u044f \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0438 \u0441\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0430\u0432\u0435\u0435 \u043f\u043e \u043c\u0435\u0440\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u044f \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430.<\/p>\n<figure class=\"full-width\"><\/figure>\n<figure class=\"\"><\/figure>\n<p>\u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0442\u0430\u043a\u0436\u0435 \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u043e, <br \/>\u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0435 0.9806-0.9841.<\/p>\n<p>batch16:\u00a00.9805999994277954<br \/>batch32:\u00a00.9811999797821045<br \/>batch64:\u00a00.982200026512146<br \/>batch128:\u00a00.9840999841690063<\/p>\n<figure class=\"\"><\/figure>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0437\u0430\u043c\u0435\u0442\u043d\u0435\u0435, \u0447\u0442\u043e \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0432 \u0446\u0435\u043b\u043e\u043c \u043f\u043e\u0432\u044b\u0448\u0430\u0435\u0442\u0441\u044f:<\/p>\n<p>128: 0.9769-0.9789<br \/>256: 0.9795-0.9810<br \/>512: 0.9783-0.9824<br \/>1024: 0.9806-0.9841.<\/p>\n<h2>\u041e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u0435\u043c \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435<\/h2>\n<p>\u041e\u0448\u0438\u0431\u043a\u0430 (&#8216;loss&#8217;) \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">\u041f\u0440\u0438\u0437\u043d\u0430\u043a\u0438\\\u0411\u0430\u0442\u0447\u0438<\/p>\n<\/td>\n<td>\n<p align=\"center\">16<\/p>\n<\/td>\n<td>\n<p align=\"center\">32<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"center\">64<\/p>\n<\/td>\n<td>\n<p align=\"center\">128<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"center\">128<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1382<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1004<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.0930<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.0860<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"center\">256<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1268<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1047<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.0843<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.0742<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"center\">512<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1393<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1253<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.0860<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.0717<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"center\">1024<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1615<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.1267<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.0957<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.0704<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c (&#8216;accuracy&#8217;) \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td>\n<p align=\"center\">\u041f\u0440\u0438\u0437\u043d\u0430\u043a\u0438\\\u0411\u0430\u0442\u0447\u0438<\/p>\n<\/td>\n<td>\n<p align=\"center\">16<\/p>\n<\/td>\n<td>\n<p align=\"center\">32<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"center\">64<\/p>\n<\/td>\n<td>\n<p align=\"center\">128<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"center\">128<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9772<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9786<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.9789<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9769<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"center\">256<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9795<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9802<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.9785<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9810<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"center\">512<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9789<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9783<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.9815<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9824<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"center\">1024<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9806<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9812<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"right\">0.9822<\/p>\n<\/td>\n<td>\n<p align=\"right\">0.9841<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<figure class=\"\"><\/figure>\n<figure class=\"\"><\/figure>\n<figure class=\"\"><\/figure>\n<figure class=\"\"><\/figure>\n<h2>\u041f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0432\u044b\u0432\u043e\u0434\u044b \u043f\u043e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0443 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u0430\u043c \u0431\u0430\u0442\u0447\u0435\u0439<\/h2>\n<p>\u041f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0432\u044b\u0432\u043e\u0434\u044b \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435:<\/p>\n<ol>\n<li>\n<p>\u0421 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430 \u043b\u0438\u043d\u0438\u0438 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0441\u0442\u0430\u043d\u043e\u0432\u044f\u0442\u0441\u044f \u043f\u043b\u0430\u0432\u043d\u0435\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0421 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430 \u043e\u0448\u0438\u0431\u043a\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0437\u0430\u0434\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432\u0432\u0435\u0440\u0445 \u043c\u0435\u043d\u044c\u0448\u0435, \u043f\u0440\u043e\u0433\u0438\u0431 \u0441\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0430\u0432\u0435\u0435, \u0442\u043e \u0435\u0441\u0442\u044c \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442\u0441\u044f.<\/p>\n<\/li>\n<li>\n<p>\u0421 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043e\u0448\u0438\u0431\u043a\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0437\u0430\u0434\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432\u0432\u0435\u0440\u0445 \u0440\u0435\u0437\u0447\u0435, \u043f\u0440\u043e\u0433\u0438\u0431 \u0441\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043b\u0435\u0432\u0435\u0435, \u0442\u043e \u0435\u0441\u0442\u044c \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f.<\/p>\n<\/li>\n<li>\n<p>\u0421 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430 \u043e\u0448\u0438\u0431\u043a\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0432 \u0446\u0435\u043b\u043e\u043c \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442\u0441\u044f.<\/p>\n<\/li>\n<li>\n<p>\u0412 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0441 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430 \u043d\u0435\u043e\u0447\u0435\u0432\u0438\u0434\u043d\u043e, \u0432 \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u043c \u0438\u0442\u043e\u0433\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0438 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u0442\u044c \u0442\u0430\u043a\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0438 \u0442\u0430\u043a\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430, \u0447\u0442\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0448\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0421 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043e\u0448\u0438\u0431\u043a\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0430\u0434\u0430\u0435\u0442, \u0430 \u043f\u043e\u0442\u043e\u043c \u0438\u043b\u0438 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u0442 \u043f\u0430\u0434\u0430\u0442\u044c \u0438\u043b\u0438 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0440\u0430\u0441\u0442\u0438 &#8212; \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0447\u0435\u043c \u043c\u0435\u043d\u044c\u0448\u0435 \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430, \u0442\u0435\u043c \u0432\u044b\u0448\u0435 \u0443\u0445\u043e\u0434\u0438\u0442 \u043e\u0448\u0438\u0431\u043a\u0430, \u0438 \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430, \u0442\u0435\u043c \u043c\u0435\u043d\u044c\u0448\u0435 \u043e\u0448\u0438\u0431\u043a\u0430 \u0438 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0442\u044c \u0441\u043d\u0438\u0436\u0430\u0442\u044c\u0441\u044f. \u0422\u043e \u0435\u0441\u0442\u044c \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043e\u0448\u0438\u0431\u043a\u0430 \u043c\u043e\u0436\u0435\u0442 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0442\u044c\u0441\u044f \u043f\u0440\u0438 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0435\u043c \u043f\u043e\u0434\u0431\u043e\u0440\u0435 \u0440\u0430\u0437\u043c\u0435\u0440\u0435 \u0431\u0430\u0442\u0447\u0430.<\/p>\n<\/li>\n<li>\n<p>\u0421 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0432 \u0446\u0435\u043b\u043e\u043c \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f, \u0438 \u044d\u0442\u043e \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430.<\/p>\n<\/li>\n<li>\n<p>\u0421\u0430\u043c\u044b\u0435 \u043b\u0443\u0447\u0448\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0432 \u0434\u0430\u043d\u043d\u043e\u043c \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u044e\u0442\u0441\u044f \u043f\u0440\u0438 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 (1024) \u043f\u043e \u043c\u0435\u0440\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u044f \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430.<\/p>\n<\/li>\n<\/ol>\n<h2>\u0411\u0435\u0440\u0435\u043c \u0441\u0440\u0430\u0437\u0443 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0431\u0430\u0442\u0447 (batch1024)<\/h2>\n<p>\u041d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445 \u0432\u044b\u0448\u0435 \u0432\u0438\u0434\u043d\u043e, \u043a\u0430\u043a \u043b\u0438\u043d\u0438\u0438 \u0441\u0433\u043b\u0430\u0436\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430, \u0430 \u043d\u0430 \u0440\u0430\u0437\u043c\u0435\u0440\u0435 128 \u043e\u0448\u0438\u0431\u043a\u0430 \u043a\u0430\u043a \u0431\u044b \u0437\u0430\u0432\u0438\u0441\u0430\u0435\u0442. \u0422\u0430\u043a \u0438 \u0445\u043e\u0447\u0435\u0442\u0441\u044f \u0432\u0437\u044f\u0442\u044c \u0431\u0430\u0442\u0447 \u0435\u0449\u0435 \u043f\u043e\u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0442\u043e\u0431\u044b \u043e\u0448\u0438\u0431\u043a\u0430 \u0434\u0432\u0438\u0433\u0430\u043b\u0430\u0441\u044c \u0432\u043d\u0438\u0437. \u0414\u0435\u043b\u0430\u0435\u043c \u0441\u043a\u0430\u0447\u043e\u043a \u0438 \u0431\u0435\u0440\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430 1024.<\/p>\n<figure class=\"full-width\"><\/figure>\n<figure class=\"\"><\/figure>\n<figure class=\"\"><\/figure>\n<p>\u041c\u043e\u0436\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e \u0432\u0441\u0435 \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u043e: <br \/>1. \u043b\u0438\u043d\u0438\u0438 \u0433\u043b\u0430\u0434\u043a\u0438\u0435;<br \/>2. \u043e\u0448\u0438\u0431\u043a\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u043f\u043e\u0441\u0442\u0435\u043f\u0435\u043d\u043d\u043e \u0441\u043d\u0438\u0436\u0430\u0435\u0442\u0441\u044f;<br \/>3. \u043b\u0438\u043d\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438 \u0438\u0434\u0443\u0442 \u0440\u043e\u0432\u043d\u0435\u043d\u044c\u043a\u043e \u043e\u0434\u043d\u0430 \u0437\u0430 \u0434\u0440\u0443\u0433\u043e\u0439 &#8212; \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0431\u0430\u0442\u0447, \u0442\u0435\u043c \u043d\u0438\u0436\u0435 \u043b\u0438\u043d\u0438\u044f:<br \/>4. \u043b\u0438\u043d\u0438\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u0442\u0430\u043a\u0436\u0435 \u0438\u0434\u0443\u0442 \u0440\u043e\u0432\u043d\u0435\u043d\u044c\u043a\u043e \u043e\u0434\u043d\u0430 \u0437\u0430 \u0434\u0440\u0443\u0433\u043e\u0439 &#8212; \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0431\u0430\u0442\u0447, \u0442\u0435\u043c \u0432\u044b\u0448\u0435 \u043b\u0438\u043d\u0438\u044f<\/p>\n<p>\u0414\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u0442\u0430\u043b\u043e \u0437\u0430\u043c\u0435\u0442\u043d\u043e, \u0447\u0442\u043e \u043f\u0435\u0440\u0435\u0441\u0435\u0447\u0435\u043d\u0438\u044f \u043b\u0438\u043d\u0438\u0439 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0438 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u043e\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043e\u043a \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u044f\u0442 \u043b\u0435\u0432\u0435\u0435, \u0442\u043e \u0435\u0441\u0442\u044c \u0440\u0430\u043d\u044c\u0448\u0435, \u043f\u043e \u043c\u0435\u0440\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u044f \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432.<\/p>\n<p>\u0422\u0430\u043a\u0436\u0435 \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u0437\u0434\u0435\u0441\u044c \u0443\u0436\u0435 \u043d\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u044d\u043f\u043e\u0445 \u0438 \u043e\u043f\u0442\u0438\u043c\u0443\u043c \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0433\u0434\u0435-\u0442\u043e \u043f\u0440\u0430\u0432\u0435\u0435.<\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u043f\u043e\u043d\u044f\u0442\u0435\u043d \u043e\u0431\u0449\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043a \u043f\u043e\u0434\u0431\u043e\u0440\u0443 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432: <br \/>1. \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0442\u044c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432;<br \/>2. \u043f\u043e\u0434 \u043d\u043e\u0432\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043f\u043e\u0434\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430, \u0447\u0442\u043e\u0431\u044b \u0441\u0434\u0432\u0438\u0433\u0430\u0442\u044c \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0430 \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0437\u0434\u043d\u0438\u0439 \u0441\u0440\u043e\u043a;<br \/>3. \u043e\u0442\u0441\u043b\u0435\u0436\u0438\u0432\u0430\u0442\u044c, \u043a\u043e\u0433\u0434\u0430 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435.<\/p>\n<p>\u0410\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 &#8212; \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-347300","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/347300","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=347300"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/347300\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=347300"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=347300"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=347300"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}