«Крестный отец ИИ»: мы строим машину без руля

Джеффри Хинтон, нобелевский лауреат по физике 2024 года и один из основоположников современных нейросетей, на конференции Digital World Conference во Дворце Наций в Женеве высказал тезис — ИИ нужно жестко регулировать, в то время как оппонентам регулирования «нужна очень быстрая машина без руля».

Хинтон считает, что противники регулирования подают «нерегулируемый ИИ как педаль газа [для экономики, науки и других областей], а регулирование — как тормоз», и на продвижение этого тезиса, по словам ученого, в индустрии идут огромные деньги. По его оценке, на безопасность в ИИ уходит «может быть, один процент» всех ресурсов.

К 2026 году антирегуляторный лагерь в ИИ заметно окреп. Фонд Andreessen Horowitz с 2023-го системно продвигает тезис, что жесткое регулирование — это инструмент крупных игроков против стартапов; к этой линии примыкает заметная часть техноинвесторов и основателей. На политическом уровне администрация Трампа в январе 2025 отменила байденовский указ о безопасном ИИ, а вице-президент Джей Ди Вэнс на Парижском AI Summit в феврале того же года публично развернул позицию США от safety-повестки к ускоренному развитию. В сумме это и есть те «огромные инвестиции в убеждение публики», о которых говорит Хинтон.

Отдельно он прошелся по рынку труда. По его словам, в таких сферах, как колл-центры, ИИ уже работает на уровне людей, а скоро будет лучше — и никакие программы переобучения этот тренд не развернут. В здравоохранении, наоборот, ИИ принесет только пользу: там всегда есть нехватка рук. Но когда появится сверхинтеллект, он сможет делать любую интеллектуальную работу, и даже новые профессии будут уходить к нему — просто потому, что так дешевле.

Самое жесткое прозвучало в финале. «Мы не знаем, сможем ли сосуществовать со сверхумным ИИ. Но мы его строим», — сказал 78-летний Хинтон. Он обратил внимание, что у нас вообще очень мало примеров того, когда намного более умное существо позволяло менее умному оставаться свободным.

Сам Хинтон настаивает: у человечества еще остается шанс удержать ситуацию под контролем — надо лишь понять, как построить такой сверхинтеллект, рядом с которым люди смогут продолжать существовать. Но времени, по его ощущению, все меньше, а ресурсов в решение вкладывается минимум.

P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть«, где я рассказываю про ИИ с творческой стороны.