У Теренса Тао, одного из величайших из ныне живущих математиков, есть свой взгляд на искусственный интеллект.
Дисклеймер 1: это вольный перевод интервью из журнала The Atlantic. Перевод подготовила редакция «Технократии». Чтобы не пропустить анонс новых материалов подпишитесь на «Голос Технократии» — мы регулярно рассказываем о новостях про AI, LLM и RAG, а также делимся полезными мастридами и актуальными событиями.
Обсудить пилот или задать вопрос об LLM можно здесь.
Теренс Тао, профессор математики из Калифорнийского университета, — это настоящий сверхразум в реальной жизни. «Моцарт от математики», как его иногда называют, считается величайшим из ныне живущих математиков. За свои достижения и доказательства он получил множество наград, включая аналог Нобелевской премии по математике. Сейчас ИИ практически не приближается к его уровню.
Но технологические компании пытаются добиться этого. Последние, привлекающие внимание поколения искусственного интеллекта — даже всемогущий ChatGPT — не были созданы для работы с математическими рассуждениями. Вместо этого они были ориентированы на язык: Когда вы просили такую программу ответить на элементарный вопрос, она не понимала и не решала уравнение или формулировала доказательство, а выдавала ответ, основываясь на том, какие слова могут появиться в последовательности.
Например, оригинальный ChatGPT не умеет складывать и умножать, но видел достаточно примеров по алгебре, чтобы решить x + 2 = 4: «Чтобы решить уравнение x + 2 = 4, вычтите 2 из обеих сторон…» Однако теперь OpenAI открыто рекламирует новую линейку «моделей рассуждений», известных под общим названием серии o1, за их способность решать проблемы «подобно человеку» и решать сложные математические и научные задачи и запросы. Если эти модели окажутся успешными, они смогут кардинально изменить медленную, одинокую работу, которой занимаются Тао и его коллеги.
После того как Тао опубликовал в Интернете свои впечатления от o1 — он сравнил ее с «посредственным, но не совсем некомпетентным» аспирантом, — мне захотелось узнать больше о его взглядах на потенциал этой технологии. В разговоре по Zoom на прошлой неделе он описал невиданный ранее вид «математики промышленного масштаба» с поддержкой ИИ, в которой ИИ, по крайней мере в ближайшем будущем, будет не столько самостоятельным творческим сотрудником, сколько помощником для реализации гипотез и подходов математиков. Эта новая разновидность математики, способная открыть терра инкогнита знаний, в своей основе останется человеческой, принимая во внимание, что люди и машины обладают совершенно разными способностями, которые должны рассматриваться как взаимодополняющие, а не конкурирующие.
Маттео Вонг: Каков был ваш первый опыт работы с ChatGPT?
Теренс Тао: Я попробовал поиграть с ним практически сразу, как только он появился. Я задал несколько сложных математических задач, и он выдал довольно глупые результаты. Это был связный английский, он упоминал нужные слова, но в нем было очень мало глубины. Ранние GPT не впечатляли ничем по-настоящему продвинутым. Они были хороши для забавных вещей — например, если вы хотели объяснить какую-то математическую тему в виде стихотворения или рассказа для детей. Это очень впечатляет.
Вонг: OpenAI утверждает, что o1 может «рассуждать», но вы сравнили модель с «посредственным, но не совсем некомпетентным» аспирантом.
Тао: Эта первоначальная формулировка получила широкую огласку, но она была неверно истолкована. Я не говорил, что этот инструмент эквивалентен аспиранту во всех аспектах обучения в аспирантуре. Мне было интересно использовать эти инструменты в качестве помощников исследователей. Исследовательский проект состоит из множества утомительных этапов: У вас может быть идея, и вы хотите провести вычисления, но вам придется делать это вручную и все прорабатывать.
Вонг: Значит, это посредственный или некомпетентный научный сотрудник.
Тао: Да, это эквивалент, с точки зрения выполнения функций такого помощника. Но я представляю себе будущее, в котором вы будете проводить исследования, общаясь с чатботом. Допустим, у вас есть идея, а чатбот ее поддерживает и заполняет все детали.
Это уже происходит в некоторых других областях. Много лет назад ИИ покорил шахматы, но шахматы процветают и сегодня, потому что теперь достаточно хороший шахматист может предположить, какие ходы хороши в тех или иных ситуациях, и с помощью шахматных движков проверить их на 20 ходов вперед. Я вижу, как подобное со временем происходит в математике: У вас есть проект, и вы спрашиваете: «А что, если я попробую этот подход?». И вместо того, чтобы тратить часы и часы на то, чтобы заставить его работать, вы направляете GPT, чтобы он сделал это за вас.
С o1 вы можете сделать это. Я дал ей задачу, которую знал, как решить, и попытался направить модель. Сначала я дал ей подсказку, а она проигнорировала ее и сделала что-то другое, что не сработало. Когда я объяснил это, она извинилась и сказала: «Хорошо, я сделаю по-твоему». Потом она выполняла мои инструкции достаточно хорошо, а затем снова застревала, и мне снова приходилось ее поправлять. Модель так и не придумала самых сложных шагов. Она могла делать все рутинные вещи, но была очень слаба в плане фантазии».
Одно из ключевых различий между аспирантами и ИИ заключается в том, что аспиранты учатся. Вы говорите ИИ, что его подход не работает, он извиняется, возможно, временно корректирует свой курс, но иногда он просто возвращается к тому, что пробовал раньше. И если вы начинаете новую сессию с ИИ, то возвращаетесь к исходной точке. Я гораздо терпеливее отношусь к аспирантам, потому что знаю, что даже если аспирант полностью не справляется с задачей, у него есть потенциал для обучения и самокоррекции.
Вонг: По описанию OpenAI, o1 может признавать свои ошибки, но вы говорите, что это не то же самое, что непрерывное обучение, которое на самом деле делает ошибки полезными для человека.
Тао: Да, у людей есть рост. Эти модели статичны — обратная связь, которую я даю GPT-4, может быть использована в качестве 0,00001 процента обучающих данных для GPT-5. Но это совсем не то же самое, что со студентом.
ИИ и люди имеют настолько разные модели обучения и решения проблем, что лучше рассматривать ИИ как дополнительный способ решения задач. Для многих задач наиболее перспективным будет использование как ИИ, так и человека, выполняющих разные задачи.
Вонг: Ранее вы также говорили, что компьютерные программы могут изменить математику и облегчить сотрудничество людей друг с другом. Каким образом? И есть ли у генеративного ИИ какой-то вклад в это дело?
Тао: Технически они не классифицируются как ИИ, но ассистенты доказательства — это полезные компьютерные инструменты, которые проверяют, верен ли математический аргумент или нет. Они позволяют осуществлять масштабное сотрудничество в математике. Это очень недавнее появление.
Математика может быть очень хрупкой: если один шаг в доказательстве окажется неверным, весь аргумент может рухнуть. Если вы делаете совместный проект со 100 людьми, вы разбиваете доказательство на 100 частей, и каждый вносит свой вклад. Но если они не согласовывают свои действия друг с другом, фрагменты могут не подойти. Из-за этого очень редко можно встретить более пяти человек в одном проекте.
С пробными ассистентами вам не нужно доверять людям, с которыми вы работаете, потому что программа дает вам 100-процентную гарантию. Тогда вы можете заниматься математикой в промышленных масштабах, чего сейчас не существует. Один человек фокусируется на доказательстве определенных типов результатов, например современной цепочки поставок.
Проблема в том, что эти программы очень привередливы. Вы должны написать свой аргумент на специализированном языке — вы не можете просто написать его на английском. Возможно, ИИ сможет переводить с человеческого языка на язык программ. Перевод с одного языка на другой — это почти то, для чего предназначены большие языковые модели. Мы мечтаем о том, чтобы вы просто общались с чатботом, объясняя свое доказательство, а чатбот по ходу дела преобразовывал его в язык доказательной системы.
Вонг: То есть чатбот — это не источник знаний или идей, а способ взаимодействия.
Тао: Да, это может быть действительно полезным клеем.
Вонг: Какие проблемы это может помочь решить?
Тао: Классическая идея математики заключается в том, что вы выбираете какую-то очень сложную проблему, а затем один или два человека, запертые на чердаке на семь лет, просто бьются над ней. Типы проблем, которые вы хотите решить с помощью ИИ, противоположны. Наивный способ использования ИИ — это скормить ему самую сложную задачу из тех, что есть в математике. Я не думаю, что это будет иметь большой успех, кроме того, у нас уже есть люди, которые работают над этими проблемами.
Больше всего меня интересует математика, которой на самом деле не существует. Проект, который я запустил всего несколько дней назад, посвящен области математики, называемой универсальной алгеброй, которая заключается в том, что из одних математических утверждений или уравнений следует, что другие утверждения верны. В прошлом люди изучали это так: они выбирали одно или два уравнения и изучали их до смерти, как ремесленник делал одну игрушку за раз, а потом работал над следующей. Теперь у нас есть фабрики, и мы можем производить тысячи игрушек одновременно. В моем проекте есть коллекция из примерно 4 000 уравнений, и задача состоит в том, чтобы найти связи между ними. Каждое из них относительно просто, но существует миллион взаимосвязей. Среди этих тысяч уравнений есть 10 точек света, 10 уравнений, которые были достаточно хорошо изучены, а есть целая терра инкогнита.
Есть и другие области, где произошел подобный переход, например, генетика. Раньше, если вы хотели изучить геном какого-либо организма, это было целой докторской диссертацией. Теперь у нас есть машины для анализа генов, и генетики занимаются изучением целых популяций. Таким образом можно заниматься разными видами генетики. Вместо узкой, глубокой математики, где человек-эксперт очень усердно работает над узким кругом проблем, вы могли бы решать широкие, краудсорсинговые задачи с помощью ИИ, которые, возможно, не столь сложны, но имеют гораздо больший масштаб. И это может стать очень дополнительным способом получения математических знаний.
Вонг: Это напоминает мне о том, как программа искусственного интеллекта Google Deepmind под названием AlphaFold выяснила, как предсказывать трехмерную структуру белков, что долгое время было необходимо делать по одному белку за раз.
Тао: Верно, но это не значит, что наука о белках устарела. Нужно менять проблемы, которые вы изучаете. Сто пятьдесят лет назад основная польза математиков заключалась в решении дифференциальных уравнений. Сейчас есть компьютерные пакеты, которые делают это автоматически. Шестьсот лет назад математики строили таблицы синусов и косинусов, которые были необходимы для навигации, а сейчас их могут генерировать компьютеры за считанные секунды.
Мне не очень интересно дублировать то, что уже хорошо умеют делать люди. Это кажется неэффективным. Я думаю, что на передовой нам всегда будут нужны и люди, и ИИ. Они дополняют друг друга. ИИ очень хорош в преобразовании миллиардов данных в один хороший ответ. Человек хорош в том, чтобы взять 10 наблюдений и сделать действительно вдохновляющие догадки.
ссылка на оригинал статьи https://habr.com/ru/articles/849026/
Добавить комментарий