Команда экспертов сразу из трёх американских университетов заявила о завершении разработки новой технологии, обеспечивающей высокий уровень защиты музыкальных произведений от их использования для обучения систем искусственного интеллекта. Специалисты отмечают, что крупные технологические гиганты давно используют музыкальные треки для того, чтобы обучать свои нейросети, при этом полностью игнорируя любые авторские права.
Суть созданной технологии под названием HarmonyCloak заключается в том, что в музыкальные треки может быть добавлен неслышимый человеческим ухом «шум», который не может быть проигнорирован искусственным интеллектом. Такие звуковые шумы вступают в диссонанс с основной мелодией, в результате чего нейросети не могут отделить одно произведение от другого, игнорируя «шум». В итоге большая языковая модель копирует заведомо несуществующий и ничего незначащий набор данных, а при генерации на основе этой информации создаёт какофонию звуков, вместо какой-либо осмысленной мелодии.
Основной особенностью созданной технологии является то, что разработчики предусмотрели возможность развивать её сразу в нескольких направлениях и адаптировать под конкретные условия работы. Учёные рассказывают, что каждый создаваемый «шум» является индивидуальным для конкретного файла со всеми его особенностями, а вовсе не мелодии. Подобный подход позволяет обеспечить качественную персональную защиту, против которой невероятно трудно подобрать универсальный алгоритм взлома, что мог бы использоваться искусственным интеллектом для того, чтобы убрать лишние «шумы».
Помимо этого, технология HarmonyCloak может быть настроена так, чтобы противодействовать какой-либо конкретной большой языковой модели, например, для борьбы с наиболее неуступчивыми и «наглыми» ИТ-компаниями. Также разработчики оставили в этой технологии задел на будущее — для противодействия тем нейросетям, которые ещё не созданы.
Американские учёные планируют представить свою технологию HarmonyCloak в качестве прикладного инструмента на симпозиуме IEEE по безопасности и конфиденциальности, запланированном на май 2025 года.
Ещё по теме: