Европейский союз вводит новые требования для компаний, работающих на его территории: теперь они должны чётко маркировать весь контент, созданный или значительно изменённый при помощи искусственного интеллекта. Эти правила вступают в силу уже в это воскресенье и охватывают широкий спектр материалов — от ответов чат-ботов до изображений, аудио и видео, сгенерированных с помощью ИИ. Основная цель нововведений заключается в том, чтобы пользователи могли без труда определить, является ли просматриваемый или прослушиваемый ими контент реальным или созданным машиной.
Данная инициатива является частью более широкого законодательства ЕС в области искусственного интеллекта, которое будет внедряться поэтапно. Первый шаг сосредоточен на раскрытии информации: если контент создан или существенно изменён ИИ, компании обязаны это указать. Это включает в себя не только видимые метки, но и технические маркеры, такие как водяные знаки или встроенные метаданные, которые помогают идентифицировать синтетические материалы.
Необходимость таких мер обусловлена стремительным развитием дипфейков и других медиаданных, созданных с помощью ИИ, которые становятся всё более убедительными и простыми в производстве. Регуляторы особенно обеспокоены скоростью распространения такого контента и возрастающей сложностью определения его подлинности.
Новые требования в основном касаются контента, созданного в профессиональных целях. Материалы, предназначенные для информирования общественности по вопросам общественного интереса, должны быть помечены, если они произведены ИИ без человеческого редакционного контроля. При этом в ЕС предусмотрели и исключения: физические лица, использующие ИИ для личных целей, не подпадают под действие правил, а также существуют исключения для «художественных, творческих, сатирических, вымышленных» произведений.
С технической точки зрения, правила выходят за рамки простых экранных меток. Ожидается, что компании внедрят системы, способные идентифицировать контент, сгенерированный ИИ, даже после его распространения или репоста. Это означает использование инструментов водяных знаков и тегов, которые могут сохраняться на разных платформах.
Крупные технологические компании уже движутся в этом направлении. Например, TikTok в течение нескольких лет требует от своих авторов маркировать сгенерированный ИИ контент, и утверждает, что более трёх миллиардов единиц видео уже были помечены с использованием его инструментов обнаружения. Компания Meta* внедрила метку «AI Info» в Facebook* и Instagram* для обозначения постов, созданных с помощью генеративных технологий.
Корпорация Google подписала добровольный кодекс поведения ЕС по прозрачности ИИ и сотрудничает с такими компаниями, как Nvidia, OpenAI и Apple, над стандартами цифровой маркировки, предназначенными для отслеживания происхождения контента.
Тем не менее, не все убеждены, что внедрение пройдёт гладко. Некоторые компании утверждают, что новые правила добавляют ещё один уровень сложности к уже перегруженным платформам. Карен Массин из Google отметила, что дополнительная регуляторная сложность может оказаться контрпродуктивной и предупредила, что это может запутать тех самых пользователей, которым правила призваны помочь. Существует опасение, что если люди будут постоянно видеть метки то, эти сигналы могут потерять своё значение. Слишком много перекрывающихся индикаторов может затруднить, а не облегчить понимание того, что они видят.
Несмотря на это, другие видят ситуацию совсем иначе. Требования соответствия часто сталкиваются с сопротивлением на ранних этапах, но в конечном итоге становятся стандартной практикой. Эшли Касован из Международной ассоциации специалистов по конфиденциальности отметила:
«Мы слышали, что это будет очень, очень сложно реализовать. Но я думаю, что мы часто слышим это в отношении разных требований. И всё же мир вертится, и мы со всем этим разбираемся».
Пока же у компаний есть время до 2 декабря, чтобы привести существующие ИИ-системы в соответствие с новыми правилами. После этой даты контроль ужесточится, а за несоблюдение требований будут налагаться значительные штрафы.
Мнение редакции
Введение обязательной маркировки контента, созданного искусственным интеллектом, — очередной бюрократический шаг, но и фундаментальное изменение в цифровом ландшафте. Это попытка вернуть человеку контроль над информацией в эпоху, когда границы между реальностью и симуляцией становятся всё более неясными. А вот сможет ли эта инициатива действительно защитить пользователей от дезинформации и манипуляций, или же станет лишь очередной галочкой в длинном списке регуляторных требований — покажет только время.
