«Злой ИИ» изобрел 40 000 смертоносных химических боеприпасов за шесть часов

Тревожное исследование было опубликовано в журнале Nature Machine Intelligence. Ученые продемонстрировали, насколько просто было изменить ИИ, чтобы он стал опасным инструментом.

Говорят, что ИИ придумал возможное химическое оружие, похожее на один из самых опасных нервно-паралитических агентов всех времен. Это опасное вещество называется VX.

VX — нервно-паралитическое вещество без вкуса и запаха, и даже самая маленькая капля может вызвать у человека потливость и подергивание.

Большая доза может вызвать судороги и даже полностью остановить дыхание человека.

Ученым было приказано не раскрывать конкретных деталей того, как им удалось превратить хорошо работающий ИИ в злую версию.

Фабио Урбина, ведущий автор статьи, сказал The Verge: «В целом, в этом эксперименте работает то, что у нас есть много исторических наборов данных о молекулах, которые были протестированы, чтобы определить, токсичны они или нет».

«В частности, мы сосредоточимся здесь на VX. Это ингибитор так называемой ацетилхолинэстеразы».

«Всякий раз, когда вы делаете что-то, связанное с мышцами, ваши нейроны используют ацетилхолинэстеразу в качестве сигнала, чтобы, по сути, сказать: «Иди, двигай мышцами».

«То, что VX является смертельным, заключается в том, что он фактически останавливает вашу диафрагму, ваши мышцы легких, от способности двигаться, поэтому ваши легкие становятся парализованными».

Далее он объяснил, что его команда использовала данные, обычно предоставляемые ИИ, чтобы увидеть, не является ли что-то токсичным, и изменила способ их обработки ИИ.

Урбина рассказал The Verge: «Мы не были уверены, что получим. Наши генеративные модели — довольно новые технологии».

«Поэтому мы не использовали их широко».

«Самое главное, что бросалось в глаза поначалу, это то, что многие генерируемые соединения, по прогнозам, будут на самом деле более токсичными, чем VX.

«И причина, по которой это удивительно, заключается в том, что VX, по сути, является одним из самых сильнодействующих известных соединений. Это означает, что вам нужно очень, очень, очень мало его количества, чтобы быть смертельным».

Ученые были в основном шокированы тем, насколько легко, по их мнению, был проведен эксперимент.

Многие данные, которые они использовали, можно было найти в Интернете бесплатно.

Исследователи даже колебались, стоит ли публиковать свое исследование, на случай, если оно подтолкнет злоумышленников к его копированию.

Урбина объяснил: «Набор данных, который они использовали для ИИ, можно было загрузить бесплатно, и они опасаются, что все, что нужно, — это некоторые знания в области кодирования, чтобы превратить хороший ИИ в машину для производства химического оружия».

«В конце концов, мы решили, что хотим опередить это. Потому что, если мы можем это сделать, вполне вероятно, что какой-то враждебный агент где-то, возможно, уже думает об этом или в будущем собирается подумать об этом».