Компании в России начали активно внедрять технологии для автоматического распознавания визуальных и аудиофальсификаций, созданных при помощи нейросетей. Детекторы нового поколения уже интегрированы в десятки проектов. По данным издания РБК, около половины случаев внедрения антидипфейк-систем связаны с банковским сектором.
Подобные системы ориентированы на выявление поддельных записей в реальном времени. Их механизм основан на алгоритмах, способных находить несоответствия в логике генерации контента, которые невозможно заметить обычным зрением или слухом.
Об этом рассказал Игорь Бедеров, руководящий компанией «Интернет-розыск». По его словам, нейросети-детекторы учатся не только распознавать визуальные и акустические отклонения, но и классифицировать методы генерации, выявляя характерные признаки, оставленные разными типами алгоритмов.
Машины анализируют паттерны, недоступные человеческому восприятию, и могут определить, каким именно программным продуктом был создан конкретный дипфейк. Многие инструменты, попавшие в зону внимания систем, напрямую указывают на наиболее используемые нейросети. Несмотря на это, технологии фальсификации продолжают развиваться стремительно, опережая возможности их обнаружения.
Игорь Бедеров отметил, что самые распространённые инструменты для создания дипфейков уже доступны широкой аудитории. Поэтому поддельные видео и голоса будут всё чаще попадаться в обиходе. Идентификация таких материалов вручную или с помощью экспертов-криминалистов постепенно утрачивает эффективность.
Ранее представители «Сбера» выступили за введение обязательного использования систем по выявлению дипфейков в сервисах массового назначения. Впрочем, в экспертной среде нет единого мнения относительно необходимости немедленного внедрения.
Алексей Мунтян, представляющий Сообщество профессионалов в области приватности, выразил мнение, что пока масштабы угрозы не выходят за допустимые пределы. По его оценке, полноценная генерация убедительных дипфейков в реальном времени требует значительных ресурсов и высокой вычислительной мощности, что пока ограничивает массовое применение подобных решений.
Ещё по теме:
- Роспатент окончательно отклонил заявку Apple на регистрацию изображения AirPlay в РФ
- LoveJack: дейтинг-приложение, где всё решают пять слов
- Искусственный интеллект собрал почти $2000 на благотворительность
