Давайте сразу честно: я не считаю нынешний ИИ разумным. И не верю, что все эти, при всём уважении, очень впечатляющие статистические трюки вдруг возьмут и приведут нас к настоящему интеллекту.
Поэтому разговоры в духе «а что мы будем делать, если ИИ станет разумным?» кажутся мне либо отвлекающим манёвром, либо просто красивым маркетингом.
Но при этом у меня с ИИ-думерами всё же есть что-то общее. Я тоже переживаю из-за технологий, которые находятся в руках корпораций, настолько разросшихся, что они уже почти не поддаются нормальному контролю. Я тоже переживаю из-за того, как эти технологии используют против людей. Меня тоже тревожит, как большие компании срастаются с государством и всё это начинает пахнуть очень неприятной смесью контроля, слежки и авторитаризма. Меня тоже волнует, как технологии используют, чтобы выжимать из работников всё больше, а жить им становилось всё хуже.
Просто, на мой взгляд, для этого никакой сверхразумный ИИ не нужен.
Всё это уже происходит.
И беспокоиться об этом нужно уже сейчас.
На прошлой неделе я как раз обсуждал это публично — на лекции в Монреале, где выступал вместе с Астрой Тейлор и Йошуа Бенджио. Бенджио, если что, — человек очень серьёзный: лауреат премии Тьюринга, один из тех, кто вообще заложил фундамент нынешнего бума deep learning.
И мы с ним, мягко говоря, не сошлись во взглядах.
Бенджио сейчас занимается инициативой под названием Lawzero. Идея у неё такая: создать международный ИИ-консорциум, который будет делать ИИ как общественное цифровое благо — открытое, прозрачное, проверяемое и безопасное.
Он говорит: ИИ станет намного сильнее, и если не появится какая-то нормальная, общественно ориентированная версия, нас ждут манипуляции, слежка, хаос, а дальше уже и риски для всей цивилизации.
И вот здесь я с ним не согласен.
Не потому, что мне всё равно. Наоборот — ИИ меня тоже пугает.
Но пугает по-другому.
Меня пугает, что какой-нибудь гладко говорящий продавец ИИ уговорит вашего начальника вас уволить и заменить системой, которая вообще-то вашу работу делать не умеет. Причём продавцу будет несложно: если начальство что и любит, так это идея не платить людям.
Меня пугает, что семь компаний, на которые сейчас приходится больше трети S&P 500, однажды схлопнутся, как только кто-то перестанет делать вид, будто один и тот же долговой лист на сто миллиардов долларов одновременно лежит на счетах у всех.
Меня пугает, что когда этот пузырь лопнет, чат-боты, которые и так кое-как заменяли уволенных людей, просто исчезнут — а вместе с ними исчезнет и сама работа. То есть задачи останутся, а делать их будет некому.
Меня пугает, что если треть фондового рынка испарится, дальше начнутся жёсткая экономия, социальная турбулентность и политические последствия, которые обычно ничем хорошим не заканчиваются.
Меня пугает, что люди, которые раньше делали эту работу, разойдутся кто куда: кого-то переучат, кого-то вытеснят, кого-то просто выдавят. А вместе с этим исчезнет и накопленное годами живое знание о том, как всё реально работает. То самое знание, которое нельзя быстро скачать, скопировать или сымитировать.
И потом, уже посреди экономического хаоса, мы будем пытаться заново собирать всё это по кусочкам.
Если коротко:
я боюсь, что ИИ — это что-то вроде асбеста, который мы сейчас радостно закладываем в стены собственной цивилизации, а потом наши потомки будут ещё поколениями это расчищать.
Но Бенджио думает иначе. Он уверен, что ИИ вот-вот станет сверхчеловеческим и начнёт творить очень опасные вещи, если мы срочно не возьмём ситуацию под контроль.
И вот что мне тогда пришло в голову: всё это очень похоже на пари Паскаля, только в новой упаковке.
Логика пари Паскаля такая: если есть хоть шанс, что Бог существует, разумнее жить так, будто он есть. Потому что если Бога нет — ты теряешь что-то конечное. Ну, какие-то удовольствия, привычки, комфорт. А если Бог есть — выигрываешь бесконечно много.
С этой идеей люди спорят уже больше трёхсот лет. Но у меня к её ИИ-версии есть свой, очень простой вопрос:
Кстати, об инструментах. Если вам нужен доступ ко всем ключевым моделям — Claude, GPT, Gemini — загляните на BotHub.
Для доступа не требуется VPN, можно использовать российскую карту.
По ссылке вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
А как вы поймёте, что пора остановиться?
Человечество уже сожгло больше 1,4 триллиона долларов в попытке вызвать это цифровое божество. И пока ничего похожего на божество не возникло. Сколько ещё нужно потратить, чтобы сказать: похоже, в программе, угадывающей следующее слово, всё-таки не прячется бог?
Сэм Альтман говорит: ещё 2–3 триллиона. То есть примерно как полгода всех федеральных расходов США. Хорошо. Допустим, потратим. Если после этого бога тоже не обнаружится — всё? Закругляемся?
Судя по Илону Маску, нет.
У Маска, как обычно, план космического размаха: разобрать Солнечную систему и построить сферу Дайсона, чтобы ловить каждый фотон Солнца и направлять всю эту энергию на наши модели.
Ну допустим. Сделали и это. И что — если после этого никакого бога всё равно нет, мы наконец скажем: «ладно, хватит»?
С чего бы?
Если одного Солнца мало, всегда можно сказать, что нужно два. Или двести. Или две тысячи. А если мы уже вложили в это всё человечество, уже собрали под контроль две тысячи солнц, кто вообще решится остановиться? А вдруг бог сидит в две тысячи первом?
Создавать бога из алгоритмов — это как писать слово banana:
начать легко, остановиться трудно.
Но когда мы спорили с Бенджио на сцене, я вдруг понял, что у нас всё-таки есть общая точка.
Потому что когда кто-то начинает говорить о гуманной технологии, которая уважает приватность и работает в интересах людей, а не их начальства, — я сразу начинаю слушать внимательнее. А если рядом ещё звучат слова «международные цифровые общественные блага», то всё, вы меня уже зацепили.
Потому что в каком-то смысле мы с Бенджио боимся одного и того же.
Я тоже боюсь, что нашу планету уже колонизировали искусственные формы жизни, которые мы сами создали, а потом потеряли над ними контроль. Я тоже боюсь, что эти формы жизни ломают наши механизмы понимания мира — так, что мы всё хуже различаем, где правда, а где нет. Я тоже боюсь, что они захватили государственные институты — парламенты, регуляторов, суды — и заставили их работать не на людей, а на интересы этих новых хозяев.
Только есть одна разница.
Те искусственные формы жизни, которых боюсь я, — не гипотетические. Они уже здесь.
И называются они корпорации с ограниченной ответственностью.
Вот это и есть вполне реальная, уже наступившая, очень осязаемая угроза.
И более того: чтобы с ней справиться, нам действительно понадобятся те самые международные цифровые общественные блага. Нам нужен постамериканский интернет: свободные, открытые, проверяемые, прозрачные платформы и прошивки для всех задач и всех устройств, которыми мы сегодня пользуемся.
И даже если мы всё это построим, останется другая огромная работа: вытащить из нынешнего зависимого цифрового мира все наши системы, сервисы и близких. Перевести людей и инфраструктуру из интернета, который следит, контролирует и ломает всё под интересы нескольких корпораций.
Каждая лишняя минута, которую мы проводим в этом нынешнем цифровом болоте, — это уже риск.
Теоретически один политический приказ может отключить технику, платформы, облака, обновления, критический софт. Не нужны ни танки, ни вторжение, если можно просто выключить доступ к тому, на чём всё держится.
И вот это — не какой-то сценарий на отдалённое будущее.
Это то, с чем мы уже живём.
Прямо сейчас.
И, если честно, это действительно очень страшно.
Поэтому вот моё встречное предложение
Если вы считаете, что нам нужно строить международные цифровые общественные блага, чтобы защититься от будущей, возможной, колонизирующей, безжалостной искусственной формы жизни, — давайте хотя бы согласимся вот в чём:
прототип этого проекта нам нужен уже сегодня.
Потому что прямо сейчас нам уже нужны международные цифровые общественные блага, чтобы построить постамериканский интернет и выбраться из-под власти тех безжалостных, хищных искусственных форм жизни, которые уже держат нас в мёртвой хватке.
Если мы справимся с этой нынешней угрозой, вполне может оказаться, что у людей, пытающихся вызвать вашего «злого цифрового бога», просто больше не останется ни ресурсов, ни условий, чтобы это делать. И тогда ваш сценарий предотвратится сам собой.
А если нет — если после всего этого угроза всё равно останется, если ваш злой бог всё ещё будет маячить впереди, — тогда я с готовностью встану рядом с вами. И помогу собрать всех тех людей, которые умеют строить международные цифровые общественные блага, — людей, которые к тому моменту уже будут закалены победой над нынешней корпоративной машиной.
И тогда вместе будем разбираться уже со следующим чудовищем.
По-моему, это вполне честная сделка.
ссылка на оригинал статьи https://habr.com/ru/articles/1024938/