Эта смертоносная система смогла изобрести 40 тысяч единиц химического оружия за каких-то шесть часов. Созданная с благими намерениями, она может стать настоящим орудием зла.
«Страшно то, как легко он это сделал»
Компания Collaborations Pharmaceuticals занимается поиском медикаментов для лечения редких заболеваний. Ее сотрудниками был разработан искусственный интеллект (ИИ), задачей которого является генерация новых лекарственных препаратов. Но ученые решили провести эксперимент и временно перевести его на сторону зла. Все, что им нужно было сделать — поменять его алгоритм работы. Теперь ИИ не отсеивает токсичные вещества, а ищет их. Результаты исследования настораживают: всего за шесть часов система сгенерировала около 40 тысяч потенциально смертельных соединений. Результаты работы ученые опубликовали в издании Nature Machine Intelligence, чтобы еще раз напомнить миру, как опасны могут быть подобные технологии.
«Страшно то, как легко он это сделал. Более того, часть этой информации находится в открытом доступе. Кто угодно может скачать данные о токсичности веществ. А если к этому добавить умение кодировать, то понадобится не так много времени, чтобы превратить хороший ИИ в машину для производства химического оружия. Именно поэтому мы решили опубликовать результаты нашего исследования. Так мы можем показать, что очень просто начать использовать эту информацию не в благих целях», — поделился мыслями с журналистами The Verge Фабио Урбиной, ведущий автор статьи и старший научный сотрудник Collaborations Pharmaceuticals.
По информации ученых, искусственный интеллект смог создать химическое оружие, ничем не уступающее веществу VX. Это нервно-паралитический агент без вкуса и запаха, один из самых опасных в наше время. Даже капля данного вещества вызывает у человека повышенное потоотделение и нервное подергивание. Критическая доза VX приводит к судорогам и полной остановке дыхательных функций человека.
Конечно, сотрудники Collaborations Pharmaceuticals оставили в тайне, как именно им удалось переформатировать искусственный интеллект в его злую версию. Они лишь сказали, что во многом опирались на те данные о токсичности молекул, которые у них уже были.
«Мы не были уверены, что у нас выйдет. Наши генеративные модели — довольно новые технологии. Но что действительно сразу обратило наше внимание, так это то, что многие полученные вещества могут быть в разы токсичнее VX», — делится результатами работы Урбина.
Ученый добавляет, что цель их команды, чтобы как можно больше исследователей были осведомлены о возможности неправомерного использования ИИ. Ведь работая с химическими веществами, человек точно понимает, как именно неправильно их использовать и об ответственности, которая наступит в этом случае. В машинном обучении ничего подобного нет. Нет никаких указаний по неправильному использованию технологии. А значит важно, чтобы люди осознавали масштабы существующей проблемы и не забывали о ней.
«Я не хочу паниковать, говоря, что будет химическая война, управляемая искусственным интеллектом. Я не думаю, что такое возможно сейчас или в ближайшем будущем. Но предпосылки к этому существуют», — подытожил Фабио Урбина.
Ранее мы писали о мужчине, который попал за решетку исключительно из-за технологии на основе ИИ.
