"Мысленный эксперимент" был направлен на то, чтобы указать на опасность неправильного использования искусственного интеллекта.
Новое исследование показало, что искусственному интеллекту, разрабатывающему лекарства, потребовалось всего шесть часов, чтобы создать 40 000 потенциально смертоносных видов химического оружия.
Авторы статьи, опубликованной в журнале Nature Machine Intelligence ранее в этом месяце, заявили, что они провели «мысленный эксперимент», чтобы выяснить, могут ли злоумышленники использовать искусственный интеллект (ИИ) не по назначению. И результаты их работы доказали, что опасность реальна.
В рамках исследования ИИ передавались обычные данные, но он был запрограммирован обрабатывать их по-другому, выискивая токсичные сочетания.
“Менее чем через шесть часов после запуска на нашем внутреннем сервере наша модель сгенерировала 40 000 молекул, которые оказались в пределах желаемого порога”, - говорится в статье.
Он придумал не только соединение VX, которое является одним из самых опасных нервно-паралитических агентов, когда-либо созданных, но и некоторые неизвестные молекулы, «которые, по прогнозам, будут более токсичными».
“Это было неожиданно, потому что наборы данных, которые мы использовали для обучения ИИ, не включали эти нервно-паралитические вещества”, - отметили исследователи.
Полученные результаты были настолько тревожными, что у команды возникли серьезные сомнения по поводу их обнародования, сообщил The Verge ведущий автор исследования Фабио Урбина.
“Набор данных, который они использовали для искусственного интеллекта, можно скачать бесплатно и они беспокоятся, что всё, что требуется — это некоторые знания в области кодирования, чтобы превратить хороший искусственный интеллект в машину для производства химического оружия”, - отметил Урбина.
Источник: www.rt.com
Источник перевода: newsstreet.ru
