В Кембридже планируют открыть курсы по противодействию опасностям, исходящим от искусственного интеллекта

Ученые собираются изучать степень угрозы, которую роботы могут представлять для человечества, а также искать возможные пути противодействия им.

Выделено 4 главных цели мониторинга и исследований (которые принято считать потенциальными угрозами)

— искусственный интеллект;
— изменение климата;
— ядерное оружие;
— биотехнологии.

Основателями Центра по Изучению Глобальных Рисков (CSER, Centre for the Study of Existential Risk) станут лорд Рис и ряд выдающихся мировых космологов.

Рис, кстати, выпустил в 2003 году книгу «Наш последний век», где предупреждал, что деструктивная направленность человеческой деятельности прикончит все человечество году к 2100-му.

Еще Ирвинг Джон Гуд (соратник Тьюринга), криптограф и один из первых ученых-компьютерщиков, считал, что машины с колоссальным интеллектом будут построены в самом ближайшем будущем.

А еще он считал, что постройка такой машины станет последним изобретением человечества.

Хью Прайс, профессор философии, один из основателей проекта:

Нам нужно очень серьезно отнестись к последствиям создания искусственного интеллекта. Это вполне может оказаться Ящиком Пандоры. Риск велик, ведь на карту поставлено слишком многое, нынешний мир очень сильно зависит от технологий.

В общем, основная философия здесь в том, что мы обязаны с максимальной серьезностью подходить к вещам, которые несут потенциальную угрозу нашему существованию. В данном случае, я говорю о технологиях.

Кембридж, один из старейших универститетов, недавно отпраздновал 800-летие. Наша цель заключается еще и в том, чтобы человечество смогло увидеть и тысячелетний юбилей.

via