![](https://habrastorage.org/getpro/habr/upload_files/c04/03b/e0f/c0403be0f7172f2247cb4495a892b37c.jpg)
Швейцарская компания Collaborations Pharmaceuticals, Inc. изучает воздействие различных субстанций на организм человека. Лекарства, антибиотики и другие полезности. Как прошаренные исследователи, ребята используют передовое программное обеспечение собственной разработки. В рамках последних исследований терапевтических лекарств, они создали программу MegaSyn — это нейросеть, бегло оценивающая химическую составляющую множества различных молекул.
В один прекрасный день группа химиков завершила плановую работу над своим проектом и решила поржать. Вернее удовлетворить академический интерес. Они взяли свою программу, настроенную обычно на отсеивание вредоносных молекул из списка потенциальных компонентов, и «перевернули» ей задачу. Сказав найти самые вредоносные молекулы из известных.
Искусственный интеллект задачу понял, козырнул и пошёл искать. Машинка взяла «за образец» самую токсичную найденную субстанцию — VX, нервно-паралитический агент класса «эпический», запрещён всеми мыслимыми конвенциями — и за 6 часов работы насобирала свыше 40 000 (сорока тысяч) соединений с аналогичным воздействием. Причём если часть обнаруженных химикатов являлась известными видами химического оружия, то большинство машина «изобрела» и назвала сама — таких ранее не было в базе данных компании.
Все 6 часов экспериментаторы без задней мысли наблюдали за процессом… пока внезапно до кого-то из них не дошло. Они только что создали больше разновидностей химического оружия, чем кто-либо ещё в истории человечества. С криком «аррряяя» они засекретили все результаты работы программы, после чего написали наивно-виноватый отчёт в Федеральный Институт Атом-Био-Химической Безопасности. Здравствуйте, тут короче, такое дело… В ответ, из цензурного, пришло приглашение на конгресс, посвящённый доработке конвенций о химическом оружии.
В дальнейшем команду исследователей затаскали по всяким подобным мероприятиям. Все знают, что инициатива делает с инициаторами. 7 марта в журнале Nature была опубликована статья о ситуации «понятным языком», где первооткрыватели выразили крайнюю обеспокоенность своим открытием. Хотя далеко не все созданные ими токсины технически пригодны на роль оружия, некоторые для этого определённо подходят — а лёгкость, с которой их удалось обнаружить на стандартном, никак не модифицированном исследовательском ПО, несколько напрягает. Кроме того, в качестве «основы» можно выбрать не редкий VX, а любой другой яд — и биологический арсенал улетит в шестизначные числа.
Короч, если искусственный интеллект захочет уничтожить человечество — услуги Терминатора не потребуются. Структурная безработица, бессердечная ты тварь!
Автор: Даня Годес
ссылка на оригинал статьи https://habr.com/ru/articles/657909/
Добавить комментарий