Однажды знойным летним вечером я оказался на лекции по искусственному интеллекту. Лектор — профессор СПбГУ — начал с краткого обзора истории этой науки с середины прошлого века и закончил красочным описанием тех чудес, которые нам (обязательно) принесут нейросети в будущем.
Я большой нейроскептик: я был бы рад, если бы в один момент все ИИ-компании просто испарились, как не было их, и мы вернулись в эпоху мясных копирайтеров и недооплачиваемых стажёров. Однако, кажется, этого в ближайшем будущем не предвидится, и потому приходится хотя бы одним глазком приглядывать — что там в этой области происходит?
Меня очень заинтересовал один слайд, которому сам лектор не уделил большого внимания. На нём рассказывалось про методику «дистилляции» нейросетей — когда с помощью большой и сложной нейросети обучается маленькая и простая, причем последняя достигает показателей, сравнимых со «старшим братом», но требует, по сравнению с ним, минимальных денежных и вычислительных ресурсов на свое обучение. Почему методика дистилляции не стала доминирующим методом обучения нейросетей? Потому что обучаемая нейросеть никогда не станет «умнее» обучающей.
То же самое можно сказать и об исходных нейросетях: для достижения все более впечатляющих результатов им требуются все более значительные объемы обучающих данных. Языковые модели могут воспроизводить изученное со все возрастающей точностью, и даже создавать новые произведения (картинки, программы и даже доказательства математических теорем), но лишь благодаря тому, что они впитали, по сути, всю оцифрованную часть культуры человечества.
Конечно же, я сразу же начал думать об этом в разрезе педагогики.
В образовании нейросети ставят перед нами извечный вопрос — как отвечать на распространение технологий, облегчающих прикладные задачи, и не терять способности к самостоятельному мышлению, к созданию принципиально нового? История сохранила жалобы мудрецов древности на ленивую молодёжь, которая уже не желает запоминать сказания и поэмы наизусть, а вместо этого слишком полагается на письмо. Лишатся ли дети, выросшие с “Алисой”, способности думать самостоятельно? Станут ли дети, которые учились у ИИ, не более чем “дистилляцией” этих программ?
Ну, её точно можно лишиться и безо всякой “Алисы”. В прошедшем учебном году мне довелось поработать с мальчиком, слишком привыкшим к помощи репетитора. В начале учебного года, пока та ещё проводила с ним дополнительные занятия, ученик показывал впечатляющие успехи в математике, как орешки щёлкал сложные задачи и всем своим видом показывал, как же легко ему даются проходимые нами темы. Как только репетитор больше не смогла с ним заниматься, это все пропало как платье Золушки, когда часы пробили полночь.
Знаки будущей катастрофы были заметны для меня, впрочем, задолго до того. Ведь мой ученик никогда не мог объяснить, как он решает поставленную задачу, и почему его ответ — правильный. Он просто воспроизводил хорошо заученную программу и был уверен, что в этом и заключается суть математики. Разве это не наука о вычислениях? Калькулятор тоже не объясняет, почему его ответ правильный, но мы же пользуемся калькуляторами. Получается, безо всяких нейросетей (кроме биологических) мой ученик потерял способность к самостоятельному мышлению — просто за ненадобностью.
Живой преподаватель может навредить ученику так же, как и нейросеть, если будет “давать предмет”, а не помогать ученику научиться самостоятельно мыслить. В свою очередь, нейросеть тоже может принести ученику пользу, если ей пользоваться с умом.
Для начала — вот задачи, с которыми мне регулярно помогают нейросети:
Проверка решения задач. На удивление, нейросети уже отлично справляются с математикой школьного уровня. Их слабые места — в геометрии и олимпиадных задачах, но вот уравнения они решают лучше меня. Если мне надо убедиться, что я не налажал в применении формулы дискриминанта, или не допустил какой-то очевидной ошибки в решении задачки, я часто прибегаю к их помощи.
Поиск фактов. Если пол года, год назад от нейронок нельзя было ожидать заслуживающего доверия ответа, то теперь все поисковые системы услужливо предоставляют вам блок с ИИ-ответом на ваш запрос с подтверждающими ссылками. Там по-прежнему может находиться отборная лажа, но чем дальше, тем полезнее становятся нейросети при поиске “того, не знаю, что”.
Редактура текстов. Прогнать пост через нейронку — дело пары секунд. И это уже поможет выловить какие-то очевидные, но ускользнувшие от внимания огрехи. Я не доверяю советам по стилю, которые выдают нейросети, но поймать опечатку, фактическую или стилистическую ошибку они могут безо всяких проблем.
Поиск рецептов. Лучший рецепт блинов, который я когда-либо находил (в меру тонкие, одинаково хороши как со сладкими, так и с сытными начинками и не рвутся при попытке перевернуть), и которым я счастливо пользуюсь вот уже скоро год, был выдан мне именно что нейросетью.
Нейросеть не делает за меня ничего, что я не мог бы сделать сам, и я не начинаю зависеть от её помощи в решении своих повседневных задач. Вместо этого я получаю возможность упростить нудные или повторяющиеся задачи.
А вот два совета для учащихся, как использовать нейросети, чтобы одновременно облегчить себе жизнь и не навредить своему развитию:
Проверяйте свои решения, а не списывайте ответы. Сначала решите задачу самостоятельно, проверьте решение на бумаге, а потом загрузите фотографию всех вычислений в нейросеть. Важный вопрос: что делать, когда она найдёт в них ошибку? Разумеется, решить аналогичную задачу самостоятельно, и снова проверить свой ответ.
Ищите источники, а не генерируйте сочинения. Не пытайтесь найти (как я) уже готовые факты. Лучше попросите робота найти для вас книжки или статьи, в которых содержатся ответы на ваши вопросы. Вам очень важно получить навыки самостоятельной вдумчивой работы с источниками, и тут нейросеть может оказать вам медвежью услугу, предоставив всю нужную вам информацию сразу, без вашего участия.
Я надеюсь, что развитие технологий в этой области не остановится — но не для того, чтобы ИИ заменили всех ученых и программистов, а для того, чтобы мы получили надёжный инструмент навигации по всему массиву накопленного человечеством знания, который (надеюсь) когда-нибудь прекратит пороть чушь и врать, столкнувшись с непонятным запросом. И точно так же, как не оправдались страхи, что нас всех сделают идиотами изобретение письменности и Гугла, не сделают нас идиотами и нейросети. Сдуру, как известно, сломать можно что угодно — но это не повод отказываться от удобных и полезных инструментов.
Автор: Иван Маврин
ссылка на оригинал статьи https://habr.com/ru/articles/1060560/