Американское Командование специальных операций (SOC) разрабатывает проект создания огромного количества поддельных интернет-пользователей, которых будет невероятно сложно распознать как обычным человеком, так и алгоритмам соцсетей. Журналисты издания The Intercept, ознакомившиеся с конфиденциальными документами, заявляют, что разработка этой технологии требуется американским властям для выполнения ряда секретных военных задач.
В частности, на данный момент Пентагон требует от американских властей одобрения проекта создания «убедительных виртуальных личностей», которые смогут использовать популярные социальные сети и другие интернет-сервисы. В частности, американские военные заинтересованы в разработке аккаунтов, которые будут восприниматься как реальные люди и иметь «уникальные фотографии, эмоции и фоны».
При этом план американских военных предусматривает не только применение статичных изображений, но и использование различных видеороликов. Созданные таким образом поддельные пользователи должны будут записывать «селфи-видео» с реалистичным окружением, которые не смогут выявить алгоритмы социальных сетей.
Планируется, что фейковые личности будут помогать в сборе данных на открытых интернет-форумах, а также принимать участие в операциях по информационному воздействию.
Технологии, которые планирует использовать Пентагон, предполагают применение алгоритмов, аналогичных StyleGAN от Nvidia, способных выявлять изображения, созданные с помощью искусственного интеллекта.
В 2019 году этот инструмент использовался в качестве основного на сайте This Person Does Not Exist, а уже через год популярные соцсети активно блокировали учётные записи, в которых использовали такие способы для создания поддельных фотографий.
Эксперты отрасли убеждены, что в случае массового использования американскими военными дипфейков в социальных сетях и на других интернет-сервисах это может нормализовать подобную практику и в других странах мира, что станет причиной последующей эскалации информационных войн.
Аналитики также уверены, что подобные технологии сложны в применении и могут использоваться для иных целей, кроме обмана, что ставит под угрозу не только международное доверие, но и внутреннюю стабильность в конкретных государствах.
Ещё по теме:
- Глава Anthropic Дарио Амодей убеждён, что ИИ приведёт к утопии
- Microsoft обнаружила в macOS уязвимость, позволяющую обойти контроль конфиденциальности в Safari
- Хакеры просят пользователей самим запускать вредоносный код в Терминале из-за сложности обхода Gatekeeper в macOS Sequoia
