Основатель и руководитель Google DeepMind Демис Хассабис выпустил манифест, заявив, что человечество находится у подножия «сингулярности», а до создания полноценного искусственного общего интеллекта (AGI) осталось всего несколько лет.
При этом Хассабис предупредил, что у людей есть лишь короткое «драгоценное окно», чтобы взять технологию под контроль, пока она не изменила саму суть человеческой цивилизации.
Он подчёркивает, что AGI нельзя сравнивать с обычными технологическими прорывами вроде интернета или мобильной связи, так как масштаб грядущих изменений будет в 10 раз мощнее промышленной революции, а произойдёт всё в 10 раз быстрее. Хассабис предупреждает, что ИИ может как подарить человечеству эру изобилия и победу над смертельными болезнями, так и стать источником беспрецедентных угроз: «AGI гораздо ближе к открытию электричества или огня. Если задуматься, мы, по сути, нашли способ заставить песок думать. Это чудо. Но то, что мы коллективно сделаем сейчас, определит, как развернётся следующий этап развития нашей цивилизации».
Глава DeepMind считает, что индустрия ИИ оказалась в тисках коммерческой и геополитической гонки. При этом технологии развиваются быстрее, чем люди успевают осознавать их влияние. Он уверен, что по мере приближения к AGI мир неизбежно столкнется с новыми вызовами, начиная от киберугроз и заканчивая биологические и ядерные риски. Особую опасность, по мнению Хассабиса, будут представлять агентные системы, способные к постоянному самосовершенствованию.
Сам исследователь предлагает США взять на себя лидерство и создать специальный надзорный орган — Комитет по стандартам передового ИИ (Standards Body), а в качестве модели использовать FINRA — американскую неправительственную организацию, которая регулирует финансовые рынки. Он полагает, что финансировать нового ИИ-регулятора должен сам технологический сектор.
Хассабис уточняет, что все разработчики передовых систем должны будут за 30 дней до релиза добровольно отправлять свои модели на проверку, а эксперты будут тестировать их на склонность к обману, попытки обойти барьеры безопасности, а также проверять возможности в сфере кибероружия и биотехнологий. Такие проверки должны стать обязательным условием для допуска ИИ на рынок США. При этом стартапы и научные институты с более простыми моделями освободят от них.
Хассабис признаёт, что даже решение технических проблем безопасности ИИ не убережёт человечество от столкновения со сложнейшими экономическими и философскими вопросами. «Какими ценностями мы хотим руководствоваться в жизни, в чём будут заключаться наши смысл и цель, и как может измениться сама природа человека? Очевидно, что решение этих вопросов нельзя и не нужно оставлять исключительно на усмотрение технарей. Для того чтобы помочь определить эту новую главу, должны объединиться все слои общества», — заключает он.
В июне более 150 ведущих мировых учёных в области математики опубликовали «Лейденскую декларацию». По словам её авторов, крупные технологические компании превращают фундаментальную науку в маркетинговый инструмент. Учёные отмечают, что в настоящее время техгиганты и ИИ-лаборатории анонсируют «прорывы» через пресс-релизы и блог-посты, избегая научного рецензирования. Математики видят проблему в том, что нейросети научились генерировать очень правдоподобные, но ошибочные доказательства, а отличить галлюцинацию от реальной теоремы становится всё сложнее.
Позднее 200 экономистов и исследователей в области ИИ, включая 16 лауреатов Нобелевской премии, подписали открытое письмо с призывом к властям как можно скорее оценить влияние искусственного интеллекта на экономику. По словам авторов, в следующие десять лет влияние ИИ существенно вырастет, и это приведёт к беспрецедентной трансформации экономики, которая будет масштабнее промышленной революции, но займёт намного меньше времени. Такая быстрая трансформация несёт множество рисков, включая сокращение рабочих мест.
ссылка на оригинал статьи https://habr.com/ru/articles/1060780/