Применение искусственного интеллекта для разработки биологического оружия выходит за рамки чисто гипотетических рассуждений. Об этом заявил бывший советник Белого дома по вопросам ИИ, консультант компании Anthropic и профессор Университета Джонса Хопкинса Бен Бьюкенен.
Современные модели, по его оценке, уже превосходят дипломированных вирусологов при решении ряда узкоспециальных задач, что формирует новые вызовы для глобальной безопасности. Бен Бьюкенен относит к числу самых серьёзных угроз возможность применения нейросетей при создании опасных биологических агентов. Раньше подобные разработки требовали высокой квалификации, серьёзных ресурсов и долгой подготовки, а сейчас современные нейросетевые системы постепенно опускают этот порог входа.
Почти одновременно с этим заявлением руководители ведущих мировых ИИ-компаний выступили с общей инициативой по ужесточению контроля над рынком синтетической ДНК. Открытое обращение к Конгрессу США подписали глава Google DeepMind Демис Хассабис, руководитель OpenAI Сэм Альтман, директор Anthropic Дарио Амодей и глава Microsoft AI Мустафа Сулейман.
Подписанты письма призывают законодательно обязать всех поставщиков синтетической ДНК и РНК проводить проверку клиентов и анализ поступающих заказов. Подобные меры, по мнению авторов обращения, способны заметно сократить риск использования передовых биотехнологий для создания опасных патогенов.
В тексте документа прямо сказано, что исторические барьеры, прежде затруднявшие разработку биологического оружия, могут существенно ослабнуть. Отрасль нуждается в дополнительных механизмах контроля до того, как подобные технологии станут массовыми.
Современная индустрия синтеза генов сегодня во многом автоматизирована. Десятки профильных компаний выпускают генетические последовательности для научных исследований, разработки лекарств и диагностических систем.
При этом далеко не каждая организация проводит полноценную проверку клиентов или оценивает потенциальную опасность поступающих заказов.
Показательным примером эксперты считают работу канадских исследователей. В 2017 году им удалось восстановить вымерший вирус оспы лошадей, заказав нужные фрагменты ДНК примерно за 100 тысяч долларов. За прошедшие годы стоимость подобных технологий заметно снизилась, а возможности нейросетей выросли многократно.
Серьёзной проблемой Бен Бьюкенен называет рекурсивное самосовершенствование искусственного интеллекта. Современные модели уже активно участвуют в создании собственных последующих поколений. Они пишут программный код, анализируют научные публикации и применяются при проектировании специализированных микросхем, становящихся аппаратной основой для новых ИИ-систем.
