3 июня главы четырех крупнейших ИИ-лабораторий — Сэм Альтман (OpenAI), Дарио Амодеи (Anthropic), Демис Хассабис (Google DeepMind) и Мустафа Сулейман (Microsoft AI) — подписали открытое письмо к Конгрессу США. Они просят законодательно обязать компании, которые продают синтетические ДНК и РНК, проверять и сами заказы, и тех, кто их размещает. Цель — закрыть лазейку, через которую ИИ может помочь злоумышленнику собрать биологическое оружие.
Само по себе это событие. Альтман и Амодеи годами ведут публичную войну за таланты, деньги и клиентов, а тут поставили подписи под одним документом; в тексте письма это прямо названо редким моментом согласия между сторонами, которые обычно расходятся во всем. Организовали обращение аналитические центры Institute for Progress и Foundation for American Innovation. Помимо глав лабораторий, письмо подписали ученые, эксперты по национальной безопасности и руководители компаний по синтезу генов — Twist Bioscience и Ansa Biotechnologies. Требования во многом повторяют двухпартийный законопроект, уже внесенный в Сенат.
Логика подписантов проста: ИИ снижает барьер знаний, который исторически мешал получить биооружие. Заказать кастомную последовательность ДНК по почте сегодня дешево и просто, а языковая модель может подсказать, где найти нужные гены и как переформулировать заказ, чтобы он не попался системам проверки. При этом авторы прямо оговариваются: письмо не утверждает, что ИИ уже способен с нуля создать рабочий патоген — для этого по-прежнему нужна серьезная биологическая подготовка. Речь о том, что барьеры размываются, и подстраховаться стоит заранее.
Проблема в том, что скрининг несовершенен. В письме упоминается прошлогоднее исследование Microsoft: инструменты ИИ для дизайна белков сгенерировали потенциально опасные последовательности, которые проскользнули мимо фильтров поставщиков — модели предлагали новые белки с той же структурой, что у заведомо вредоносных. Отсюда вывод части подписантов: одной проверки заказов мало, и самим ИИ-лабораториям придется фильтровать опасные запросы на своей стороне.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
ссылка на оригинал статьи https://habr.com/ru/articles/1043916/