Недавно DeepMind, отделение корпорации Google, объявило о победе над чемпионом мира по го благодаря новой системе ИИ. Это важное техническое достижение, ценность которого нельзя недооценивать, особенно учитывая, насколько текущие прорывы не соответствуют былым предсказаниям и ожиданиям. Но данное эссе рассматривает не эту проблему, поскольку для обсуждения научных и технических последствий есть более квалифицированные люди.
Есть искушение отбросить ИИ, играющий в го, как незначительное явление; компьютер, играющий в настольную игру, вместо того, чтобы заниматься «действительно серьёзными» проблемами. Некоторые люди, за реакциями которых я наблюдал, высказываются именно в таком ключе, но большинство положительно оценивают ситуацию. За пределами игры го тот же самый аргумент часто используется по поводу современной технологической индустрии. Критики говорят, что она легкомысленна. "Лучшие умы поколения работают над тем, чтобы заставить людей кликать на рекламу". Аргумент знакомый, он раздражает и присутствует повсеместно. Лучшие умы поколения тратят время на ерунду, игрушки и коммерцию, а не на реально важные вещи. Когда технари займутся реальными проблемами? – вопрошают критики.
Реальные проблемы?
Один яркий пример такого довода можно найти в статье, причитающей по поводу того, что в Кремниевой долине не решают «больших» проблем. Даже если эта жалоба искренняя, автор упускает самое важное. Что такое «реальные проблемы»?
Автор объясняет:
Кремниевая долина должна заняться большими, неприятными и сложными проблемами для улучшения мира. Проблемами неприятными, затянутыми, грозящими провалами и позорами. У них нет готовых рынков, они относятся как к бедным, так и богатым, к проблемным системам. Не «что мама сделает для улучшения моей жизни», а «чем мама будет гордиться». Они требуют большего, чем просто выписать чек – необходимо вгрызаться в них и трудиться годами.
Как мы можем понять это заявление?
Это витиеватый способ сказать, что автор хочет назначить Google, Facebook, Apple и других агентами по решению социальных проблем. Занять их исправлением несовершенных систем. Сделать так, чтобы мама гордилась. Мало кто из распространявших такие заявления людей объяснил, почему это направление работ будет иметь практическую ценность, будет полезным, и что даёт право неправительственным организациям, отчитывающимся перед акционерами или выходящими на биржу, брать на себя функции правительства и законодателей. Действительно ли мы хотим, чтобы технологические компании отвлекались от побед над игроками в настольные игры и выпускали бизнес-продукты для решения социальных проблем? На такой вопрос нужно эмоционально ответить «нет». Постановка вопроса перевёрнута с ног на голову.
В этом эссе доказывается следующее.
1. Требования к технокомпаниям решать социальные проблемы игнорируют историю и эмпирически наблюдаемые характеристики инженерных разработок «сверху вниз», и растут из наивной веры во всесилие технической рациональности [теория технической рациональности утверждает, что после того, как некая технология внедряется в социум, она меняет понятия того, что считается рациональным для этого общества. Впервые термин предложен теоретиком Гербертом Маркусом в 1941 году в книге «Некоторые последствия современных технологий» – прим. перев.]. У этой рациональности не только долгая и очень нестабильная история решения социальных проблем; у неё возникают патологические характеристики, когда её используют в бюрократических организациях в попытках обойти правила. Не существует чёткой идеи по поводу того, как именно технокомпании должны работать над этими задачами, только смутная вера в то, что они должны это делать, зиждущаяся на поклонении технической рациональности (ТР).
2. Технокомпании не приспособлены для выполнения квазиправительственных или реальных правительственных функций, да и вряд ли преуспеют в избегании проблем ТР лучше, чем правительственные органы. И хотя технокомпании могут сделать существенный вклад в определённых областях и с определенными механизмами, наибольший их вклад состоит в создании инструментов, при помощи которых мы сами можем решить свои проблемы. Зачем нам полагаться на технокомпании в решении социальных проблем, если как с нормативной, так и с практической точек зрения им гораздо проще будет дать нам усиливающие нас инструменты?
Заблуждение Манхэттенского проекта I: тень технической рациональности
Технокритикам нужно быть осторожным со своим желанием поручить технокомпаниям решение «реальных» проблем. Они, по сути, требуют, чтобы технокомпании придумали решения социальных проблем, а конкретнее, они требуют разработки решения проблем сверху вниз у экспертов, бюрократов, учёных и инженеров. Этот процесс рационального дизайна обычно не улучшает сложные социальные проблемы в несовершенных системах, а лишь служит источником новых.
Громкие призывы к лучшим умам Калифорнии с требованиями устранить все наши проблемы можно понять. Кремниевая долина считается волшебным местом. Но любовь людей к Кремниевой долине, растущая из имиджа пионеров Пало-Альто, выступающих в роли технических волшебников, является просто пережитком предыдущей любви к правительственным бюрократам, экспертам, учёным и инженерам. Остатки этого обожания всё ещё остаются в неувядаемых призывах к созданию очередного "Манхэттенского проекта" для различных социальных, политических и экономических проблем.
Если в современной американской науке и технологии есть нечто, приближающееся к мифам из комиксов, так это истеблишмент исследователей времён Второй Мировой войны. Команды исследователей из разных областей науки работали вместе над всем, от оптимизации стратегической логистики до создания атомной бомбы. Вторая Мировая война и Холодная война привели к появлению новой концепции научного прогресса, подробно описанного историками науки и технологий. Небольшая группа экспертов берётся за неподатливую проблему, и комбинирует свои знания и экспертные мнения для выдачи фантастического результата. Поэтому таким клише стало заявление «нам нужен Манхэттенский проект для ____». Люди хотят верить, что та же совместная работа учёных, что привела к созданию атомной бомбы, может быть обобщена и для решения других сложных проблем (в особенности социальных), и в этой логике есть соблазнительная привлекательность.
Наивный призыв к технарям заняться «большими проблемами» можно классифицировать как подмножество более общей раздражающей тенденции: постоянные призывы к созданию очередного «Манхэттенского проекта» (МП) для решения социальных, политических и фундаментальных проблем человечества. Но реальный МП сделал нечто гораздо менее общее и амбициозное: создал атомную бомбу. Призывы к созданию нового МП отражают американскую веру в ТР, описанную мною в предыдущем эссе. Это вера в экспертов, проекты, планы, и науку с технологией. Она не считается с историческими фактами, поскольку является по своей сути мессианской. МП – это эквивалент непорочному рождению Христа.
К сожалению, МП-подобные предприятия не переносятся на социальные и политические проблемы. Во-первых, сам МП был sui generis [уникальный]. Бессмысленно верить в то, что эту модель можно расширить за пределы основных и прикладных наук. Большая часть исследовательской модели времён Второй мировой и Холодной войны по сути комбинаторная. Это были эксперименты с разными комбинациями, настройками параметров, и конфигурациями компонентов нижнего уровня в попытке создать инженерное целое. Не случайно то, что МП привёл к рождению статистических вычислений в виде стохастических симуляций, или что идея "ограниченной рациональности" выросла из задачи использования ограниченных вычислительных ресурсов для решения оптимизационных задач логистики ВВС. Такие методы решения задач подходят лишь для узкого круга задач, и не подходят для других.
Также необходимо отметить, что хотя МП решил одну проблему, он породил другую. Если проблема создания атомной бомбы привлекла внимание и ресурсы научного сообщества во время Второй мировой, неудивительно, что это же сообщество занялось задачей адаптации такой разрушительной инновации к политическим, военным и разведывательным последствиям. Сегодня мы живём с наследием этих событий, и не можем представить себе мир, где их нет.
Кроме невозможности перевести модель МП на решение социальных задач, история указывает, что попытки рационального поиска решений этих задач – это, в лучшем случае, затея бесполезная, а в худшем – путь к катастрофе. В прошлом веке было достаточно доказательств этому, но война во Вьетнаме наилучшим образом служит предостережением для гиков с хорошими намерениями. Так что главной, хоть и не единственной, проблемой использования ТР для решения социальных задач, будет невозможность найти инженерное решение для них. Как предупреждал теолог Эрик Воглин [Eric Voeglin], не нужно делать конец света неизбежным. К сожалению, мы его проигнорировали.
Историк Нильс Гилман написал книгу "Мандарины будущего" о наследии теории модернизации – одном из многих примеров времён Холодной войны, когда разумная ТР обернулась ужасным провалом. Теоретики модернизации верили, что общества развиваются по определённым линейным этапам политического, социального и экономического развития. Теория модернизация – небольшая часть набора взглядов, известного как "высочайший модернизм", утверждающего, что у науки и технологий есть неограниченные возможности для переустройства мира. И хотя высочайший модернизм и теория модернизации отличаются (первый – надмножество второго), они разделяют веру в возможности планирования сверху вниз, поиску решений через рациональный дизайн, и превосходство научно-технических экспертов. Именно такими средствами должна была быть достигнута утопия.
В СССР двойники гилмановских бюрократов-мандаринов использовали схожие методы для анализа и оптимизации плановой экономики. В обоих случаях компьютеры играли большую, если не доминирующую, роль. Компьютеры могли подсчитывать расписания, находить эффективные методы и симулировать результаты сценариев с большим количеством взаимодействующих переменных. Вычислительная неподатливость стала самым серьезным техническим и научным препятствием, из-за которого пришлось использовать сложные приближённые методы. Конечно, разница между инженерными науками и «социальной инженерией» заключается в том, что последняя требует крупномасштабных манипуляций поведением человека, а не расписанием или числовыми параметрами. До того, как компьютеры начали программировать современными методами, концепция «программирования» относилась к набору шагов, необходимых для приведения организации от текущего состояния к желаемому.
Сказать, что ТР-попытки решить такие проблемы сверху вниз провалились – значит, ничего не сказать. Как утверждал Джеймс С. Скотт [James C. Scott], самым большим допущением этих попыток была возможность представить общество в понятном для экспертов и машин виде. Но как сразу поймёт любой программист, работающий с неструктурированными и неочищенными данными, необходимой чёткость данных часто трудно достичь, а стоимость попыток приведения их к такой чёткости может превысить преимущества от использования результатов. То же справедливо и для крупномасштабных социальных мероприятий. Можно найти много примеров того, как усилия умных людей, пытавшихся решить социальные проблемы через ТР, приводили к ужасным последствиям, от программы-фарса "Цели развития тысячелетия" до ужасов советской коллективизации. Но в качестве яркого примера я буду использовать войну во Вьетнаме.
Есть причина, по которой война во Вьетнаме считается высшей точкой теории модернизации и высочайшего модернизма в целом. Огромные вычислительные мощности были брошены на решение проблемы сохранения Южно-Вьетнамского режима в борьбе против коммунизма. Собирались данные по различным индикаторам. В противоположность мифу о том, что США пренебрегли карательными акциями по подавлению восстаний в угоду крупным сражениям, большой и сложный бюрократический аппарат пытался выиграть войну «в головах» гражданских через реформы и развитие. Но нельзя было игнорировать и сражения, и потому большая часть аналитических ресурсов занималась поисками возможностей побед над противником. И ни одна из этих целей не была достигнута.
Что пошло не так? Много чего, к сожалению.
Вьетнам показал не заблуждения о ценности измерений. Измерения – ключевая часть любого предприятия, научного или нет. Но ключевой характеристикой многих социальных проблем служит фундаментальное разногласие по поводу того, что измерять и как именно. Согласно наблюдению историка Грегори Дэддиса [Gregory Daddis], такая проблема постоянно возникала в период войны во Вьетнаме. Разногласия не были чисто профессиональной проблемой. Числа стали политическим оружием, оправдывавшим определённые политические и стратегические цели и действия. И когда числа начали указывать на то, что базовые предположения и допущения были неправильными, высокопоставленные товарищи просто проигнорировали это и занялись их маскировкой. Следует отметить, что кроме указанных проблем с числами, они оказались ненадёжными. США в сборе данных полагалось на своих союзников из Южного Вьетнама, а те в свою очередь были рады поставлять данные, поддерживавшие такие заключения правительства США, какие ему были нужны.
Пока американцы воевали и гибли во Вьетнаме, те же люди, что стояли за схемами использования ТР в войне, начали применять их в своей стране. Борьба с наркотиками и бедностью – яркие примеры провальных результатов этой тенденции, при том, что первая уже превратилась в настоящую войну против некоторых сегментов американской популяции.
Заблуждение Манхэттенского проекта II: бюрократическая рациональность в роли злого сверхинтеллекта
Как показано в прошлом разделе, ТР часто усугубляет сложные социальные проблемы вместо того, чтобы их исправить. А во многих случаях и создаёт новые! Однако вера в экспертов и рациональное планирование – лишь одна часть ТР. ТР связана с организациями. Корпорации, правительства и другие композитные сущности часто легально, а порой и концептуально персонализируют. Когда мы говорим о них, мы относимся к ним, как к групповым агентам. «Русские сделали ____», «General Motors хочет сделать ____», и так далее.
В связи с этим забавно, что призыв к технарям спасти всех нас происходит одновременно с популярной паникой на тему искусственного интеллекта. Илон Маск, Стивен Хокинг и другие беспокоятся, не слетит ли ИИ с катушек. Другие представляют машину, рационально оптимизирующую некую целевую функцию – вне зависимости от безумности или абсурдности данного действия. ИИ-страшилка в таких сценариях – некий гиперрациональный психопат, вооружённый невероятной вычислительной мощностью и более умный, чем любой из людей.
Мои читатели будут шокированы, узнав, что я пришёл к выводу, что Маск, Хокинг и их банда были правы, а я был неправ. Существует опасность, исходящая от сверхумного, гиперрационального ИИ, оптимизирующего всё подряд. Не согласен с ними я только в том, что появление этого существа грозит нам в будущем. Оно уже взяло всё под свой контроль. Я уже встречал его – из-за моей ограниченной воинской повинности оно может призвать меня в случае военной необходимости. Я обязан был демонстрировать перед ним свои навыки вождения, чтобы получить водительское удостоверение. После заполнения мистического свитка под названием "Defense Travel System form" я уже проинформировал это всемогущее существо о датах, в которые я буду представлять в Лондоне свою научную работу на оборонной конференции. И этот искусственный сверхинтеллект вычитает кусок дохода каждого человека каждый год под страхом тюрьмы. Да, дорогой читатель, я говорю о федеральном правительстве. Дяде Сэме. Звёздно-полосатых. Федералах.
Я, конечно, не утверждаю, что федеральное правительство плохое по своей сути. Оно выполняет важную функцию, и без него нам было бы хуже. Я просто говорю, что федеральное правительство – это огромная безличная бюрократия. Бюрократическое измерение технической рациональности можно рассматривать как подвид ИИ, поскольку большая часть фантазий людей по поводу всемогущих, сверхинтеллектуальных и гиперрациональных сущностей описывает то, что уже существует в огромных безличных бюрократиях. Патологии ТР – это кошмарный сценарий, которого опасаются Маск и Хокинг. Их великий кошмар — сверхинтеллектуальная и гиперрациональная, но при этом вредоносная и психопатическая сущность, контролирующая нас – уже реализовывался много раз.
Все признаки умозрительной сверхумной машины Маска и Хокинга уже присутствуют в композитных бюрократических групповых агентах. Интеллект они получают из комбинации чистой мощности переработки (ресурсов, превышающих ресурсы индивидов) и алгоритмов (бюрократических программ и процедур). И, в точности как страшилка противников ИИ, бюрократия рациональна в смысле поиска эффективных способов достижения целей, но у неё часто не хватает того, что философы, художники и государственные деятели называют «здравым смыслом» или «разумом».
К сожалению, не могу похвастаться авторством этой идеи – о ней в различных постах писала Джоанна Брайсон [Joanna Bryson]. Но есть и более ранние описания этой идеи. Компьютеры и бюрократия так подходят друг к другу, поскольку бюрократические организации можно рассматривать, как вид технологии. И это не метафора. По социологу Максу Веберу, идеальная бюрократия обладает следующими характеристиками:
1. Иерархия власти.
2. Безличность.
3. Прописанные правила управления.
4. Продвижение на основе достижений.
5. Разделение труда.
6. Эффективность.
Из них некоторые можно назвать вычислительными по сути. Информатика часто представляет сложные системы, которые она моделирует или создаёт, как иерархические абстракции с особыми правилами, позволяющими системе переходить из одного дискретного состояния в другое. Вебер и Герберт Саймон [Herbert Simon] предполагают, что сложные социальные артефакты также ориентированы на результат и сделаны так, что их внутренняя структура и организация поведения построена с целью достижения определённых целей с учётом потребностей внешней среды. Бюрократии также представляют собой набор людей и машин, работающих вместе для достижения указанных целей. Поэтому, проблемы ТР произрастают не только из высокомерия. Недостатки ТР появляются из-за патологий «рационализации» и её доминирования в социальной жизни. Вебер предполагает, что в эру доминирования процессов рационализации доминирование вычислений станет мотивацией и причиной социальных действий.
Если сингулярность Маска и компании уже давно произошла, то мы живём в её последствиях. И они, мягко говоря, не слишком обнадёживают. Подумайте обо всех страданиях людей, произошедших из-за этого бюрократического процесса, работающего сверху вниз, от банальных (очередь в департаменте регистрации транспортных средств) до самых ужасных (количество смертей в коммунистических странах, произошедших из-за ошибок плановых экономик во время Холодной войны). Или же подумайте о том явлении, что называют «кафкианским». Кафка описал безличную, бесчувственную, непрозрачную и неустанную бюрократию, которая по всем параметрам была к тому же и безумной. Массивная власть, безличность и непрозрачность бюрократии обеспечивает отсутствие возможности у жертвы к сопротивлению, но жертвой человека делает именно безумие этой бюрократической машины.
Заблуждение Манхэттенского проекта III: ложный слух о технологиях и реальных проблемах
Это отступление очень отдалило нас от го, глубокого обучения, ИИ и того, чем должны и чем не должны заниматься технологические компании. Подробно объяснив, почему неверна идея о том, что техника, рациональный дизайн и эксперты могут решить сложные социальные проблемы, теперь я займусь объяснением того, почему постоянные просьбы к техническому миру сделать что-нибудь – что угодно – и использовать технику, рациональный дизайн и экспертов для решения сложных социальных проблем не просто неверна, но и невероятно глупа. Очень большая часть социальных проблем мира проистекает из того, что техническая рациональность и бюрократическая «технология» пошли вразнос. Ещё больше того же самого – это не решение, а часть той самой проблемы, которую якобы должна решить техническая рациональность.
Идея того, что технокомпании должны посвятить большую часть своих усилий решению больших социальных проблем, перед которыми пасуют правительства и международные организации, безумна. Очень сложно понять, каким образом объективная история ХХ века может поддерживать веру в то, что все проблемы решаемы, и что для этого необходимо всего лишь несколько умных людей. Также трудно понять, как можно не сделать вывода о том, что централизованное планирование сверху вниз учёными и технологическими экспертами в социальных и политических областях привело, мягко говоря, к нежелательным последствиям. Но именно это следует из жалоб на то, что техноиндустрия не занимается большими проблемами. С чего это люди так горят желанием увидеть, как инженеры и бюрократы будут использовать компьютеры для решения проблем, созданных другой командой инженеров и бюрократов с компьютерами? Но это даже не начинает объяснять идиотизм подобного мема.
Критики постоянно спрашивают «почему технари не занимаются реально важными задачами?», без какого бы то ни было понимания того, чего они на самом деле просят. Технокомпании превосходно справляются с технологическими и деловыми вещами, такими, как менеджмент, логистика, производство, маркетинг, исследования и разработка, разработка ПО, поддержка софтовых платформ. И единственная вещь, делающая их привлекательными инструментами для решения проблем, это ощущение их экспертизы, технологической компетентности и ресурсов. «Если они такие умные, что сделали [технологическую бизнес-штуку], почему они не могут сделать [никак не связанную с этим политическую/социальную штуку]?». С таким подходом можно попросить вашего учителя родного языка построить мост, вашего почтальона посчитать вам налоги, или вашего терапевта научить вас кунг-фу.
Не пойму, почему это сложно понять. Много людей знают, что правительство – это не бизнес. По многим причинам Минобороны или МИД не превратятся в гибкие стартапы, в которых молодые и голодные предприниматели охотятся за деньгами инвесторов. А проблемы правительства почти не пересекаются с проблемами бизнеса. Пример? Если команда из Facebook отправит вам рекламу, которая вам не нравится, вы сможете одним кликом убрать её из вашей ленты. Если из-за неправильных решений по закупке, принятых в Минобороны, танк не сможет стрелять, шумная толпа из молодых американцев исчезнет, когда враг выстрелит в ответ. Цели, мотивация и компетенция технологических компаний отличаются от правительственных, и они не приспособлены для выполнения функций правительства.
Технокомпании могут приносить пользу обществу и играть ценную роль в общественных действиях. Вопрос в том, какую именно роль. Google есть что предложить для решения социальных проблем, и они уже работают в этом направлении с такими вещами, как Google Ideas. Побывав на совместной конференции Совета по международным отношениям и Google Ideas, я стал приверженцем этой модели партнёрства. У обеих сторон есть опыт, знания и возможность сделать свой вклад. Технологический мир может предложить много того, чего нет у правительства и некоммерческого сектора.
Но неудобная правда в том, что люди, призывающие технологии решать большие проблемы, безосновательно верят в то, что опыт в технологиях и бизнесе помогает в решении социальных проблем и переносится вовне областей компетенции по технологиям и бизнесу. А также не существует никаких идей по поводу того, как именно Google, Facebook или кто-то ещё может приняться за решение этих проблем. Абстрактная идея того, что они этим занимаются, привлекательна, но мало кто может сказать что-то более конкретное. Размытых формулировок об изменении мира и занятиях действительно важными вещами недостаточно.
И наконец, размытая жалоба по поводу того, что «технологии должны изменять мир» напоминает ещё один такой же тупой мем: что угодно имеет право на жизнь, если оно достойно обсуждения. К примеру, всегда будут идти исследования, разработка и финансирование проектов с неоспоримым «влиянием на общество». В случае Пентагона влияние будет состоять в отправке боевых снарядов по вражеским целям. И если вы не это подразумеваете под влиянием на общество, это ваши проблемы. Жалоба состоит в том, что технари не занимаются сложными проблемами. Ну, даже если это, по вашему мнению, и не особенно достойная сложная проблема, то сохранение военного превосходства США – это реально сложная проблема!
Вы видели брифинги по поводу стратегического баланса в Тихом океане? По-моему, это довольно сложно, и влияние на общество тут налицо. И как человек, часто работающий в оборонке и безопасности, я считаю, что это достойная проблема. И хотя я специально добавляю комичности в ситуацию, моя мысль весьма серьёзна. То, как технари меняют мир, или работают с серьёзными проблемами, тоже важно, и только то, что некая технокомпания или агентство, финансирующее технологический проект, работают над решением сложной и важной проблемы, не делает автоматических их действия Хорошими.
Заблуждение Манхэттенского проекта IV: пусть играют в свою го
Возможно, самое загадочное в меме «технари не решают Сложные Проблемы » состоит в том, что критики требуют от технокомпаний посвятить время их инженеров решению социальных проблем – а ведь именно за это эти же критики и ненавидели бы эти же самые компании, если бы их желание сбылось. При этом они игнорируют простой способ, которым технология может служить инструментом для достижения целей. ТР послужила появлению серьёзных проблем в нашем мире. Но она же многое сделала для того, чтобы улучшить нашу жизнь. Наличие хороших инструментов позволяет нам использовать их так, как мы считаем нужным для самостоятельного решения сложных проблем, а не для пассивно-агрессивных требований к технокомпаниям решать за нас эти проблемы. А ещё хорошие инструменты дают нам возможности использовать позитивные стороны ТР и избавляться от негативных.
Один из примеров использования технологий как ресурса для решения социальных проблем – использование дронов в помощь аборигенам для защиты их земли, поддержка борьбы с последствиями стихийных бедствий и защита археологических ценностей. Все эти проблемы существовали до появления недорогих коммерческих дронов, и люди будут использовать другие технологии для их решения долгое время после исчезновения дронов. Но появление дронов действительно изменило ситуацию. Конечно, даже самая эффективная технология – это временное решение. Но временное решение лучше, чем ничего.
Доступ к свободному ПО, типа библиотек для работы с данными у R или Python, не решит проблемы голода. Но необходимой частью решения этих проблем будет возможность проведения статистического анализа численных компонентов задачи. В прошлом эта задача требовала оплаты дорогих лицензий для использования Stata, SPSS, Eviews, SAS и прочих подобных инструментов. Теперь люди могут делать это бесплатно при помощи свободного ПО и делиться результатами через такие же инструменты с открытым кодом типа Jupyter Notebooks или Github. Поскольку это понижает стоимость использования аналитических методов решения социальных задач, это гораздо лучше, чем если бы у нас не было библиотек для R или Python.
Но и бесплатных обедов тоже не существует. На деревьях не растут как деньги, так и высококачественные и постоянно обновляемые технические системы. Нельзя получить нечто просто так. Люди не создают и не поддерживают сложные технические инновации по доброте душевной и из-за благородного желания помогать угнетаемым жителям «Замбугистана». Бывают исключения, но как долго они длятся? Люди делают что-то из корысти, будь то материальное вознаграждение или слава и признание. Даже некоммерческие негосударственные организации соревнуются за финансирование, ресурсы и членов.
Теперь вернёмся к программе играющей в го, упомянутой мною в начале этого эссе. Настоящие ожидания от ИИ состоят в том, что они дадут нам инструменты, пригодные для использования. Компании типа Google уже могут помогать в решении социальных проблем, производя инструменты, которые люди могут использовать для их решения. Tensorflow в руках правильно использующего его специалиста будет полезен. Обладать хорошими инструментами – гораздо лучше, чем не обладать ими. Так что критика технокомпаний за то, что он концентрируются на якобы тривиальных вещах, направлена не в ту сторону.
Конечно, есть какое-то ребячество в том, чтобы удивляться возможности компьютеров побеждать людей в настольных играх. Ну и что? Сколько людей пошли в армию, потому что играли в детстве с солдатиками? Сколько пошли в науку, потому что слушали популяризаторов науки? Людям необходимы развлечения и мотивация, чтобы делать что-то сложное. Выиграть у человека в го – очень сложная задача из-за математической сложности игры. Но машины от Google этому научились. Ура им. И пока научные заявления по поводу более широких возможностей системы, играющей в игры, будут подтверждаться, существует возможность использовать их для чего-то кроме игры в го. И что в этом плохого?
Есть какая-то срочная социальная проблема, для решения которой Google, в отличие от ООН, Amnesty International или правительства США, обладает уникальными возможностями, и которую компания игнорирует, создавая вместо этого прикольные алгоритмы машинного обучения для игры в го? Не думаю. Но любая из этих общественных организаций, вооружённая гугловскими технологиями, получит, по меньшей мере, новые возможности для работы. И эти возможности могли не появиться, если бы у Google не было достаточно мотивации для разработки технологий путём попыток победить людей в настольных играх. Означает ли обладание улучшенной технологией, что проблема изменится? Нет. Но обладание такими технологиями упрощает решение проблем. Так что пусть Google играет в го, или тратит большие деньги и человеко-часы на разработку чего угодно ещё. Если это приведёт к появлению того, что другие люди смогут использовать, отлично. Если нет – не вижу, каких убытков это нам будет стоить.
ссылка на оригинал статьи https://geektimes.ru/post/283228/
Добавить комментарий