В наших социальных сетях появился новый нежелательный жилец: спам, созданный искусственным интеллектом. Странные, эмоционально манипулятивные или откровенно мошеннические посты, созданные всё более сложными алгоритмами, заполонили такие платформы, как Facebook*, Threads и LinkedIn. Проблема усугубляется тем, что зачастую сами социальные сети активно продвигают этот контент, запуская порочный круг дезинформации и недовольства пользователей.
Компания Meta* и другие объявили о мерах противодействия (например, тегирование постов ИИ), но достаточно ли этого, чтобы остановить новую волну высокотехнологичного спама?
Причудливое лицо ИИ-спама
Для многих пользователей первое знакомство с ИИ-спамом происходит в сюрреалистической манере. Текст гласит: «Закройте глаза на 70% и увидите волшебство». И даже не надо сильно щуриться, на экране отчётливо появляется некое изображение Иисуса, состоящее из креветок.
А стоит ли говорить о тысячах и тысячах подобных изображений с одинаковыми подписями? Об эмоционально-манипулятивных постах, изображающих матерей-инвалидов и детей в грязи, создающих неправдоподобные и сложные конструкции из пластиковых бутылок? Мы уже находимся в психушке.
Алгоритм поощряет спам
Проблема ИИ-спама в Facebook усугубляется тем, что во многих случаях, похоже, сам алгоритм платформы придаёт значимость этим постам.
В исследовании, проведённом учёными Джорджтаунского и Стэнфордского университетов, было проанализировано более 100 страниц Facebook, на которых регулярно публикуется ИИ-контент, иногда десятки и даже сони раз в день. Результаты тревожные: многие из этих страниц занимаются мошенничеством и спамом, а Facebook* активно рекомендует некоторые из этих материалов в лентах пользователей.
«Мы видели сгенерированные ИИ изображения всего, что только можно себе представить, – от бревенчатых домов до бабушек с праздничными пирогами и детей с искусными рисунками, которые просто не могут быть настоящими», – Джош Голдштейн, научный сотрудник Джорджтауна и соавтор исследования.
Тёмная сторона ИИ-спама
Анализ, проведённый Гольдштейном и его соавторами, показал, что некоторые из этих страниц принадлежат классическим спамерам, которые размещают ссылки на сайты, позволяющие им получать доходы от рекламы. Другие – мошенники, рекламирующие созданные ИИ продукты, которых, похоже, на самом деле не существуют. Другие же, и это не всегда хорошая новость, не имеют четкой финансовой мотивации. Похоже, они просто собирают аудиторию для непонятных целей.
«Это могут быть вредоносные страницы, которые пытаются собрать аудиторию, а затем переходят к продаже товаров, размещают ссылки на сайты, заполненные рекламой, или даже полностью меняют тему на политическую», – предполагает Голдштейн. "Но я подозреваю, что, скорее всего, многие из этих страниц - просто авторы, которые поняли, что это полезная тактика для привлечения аудитории».
Столкнувшись с волной ИИ-спама, социальные платформы заявляют, что поставили на него ограничения. Facebook объявил, что начинает помечать некоторые материалы, созданные инструментами искусственного интеллекта. На прошлой неделе TikTok начал наносить аналогичные метки на некоторые посты, созданные ИИ на своей платформе. Но работает ли это на практике?
Сильное негативное влияние
Для многих пользователей мер, объявленных соцсетью, может оказаться недостаточно. Есть люди, которые рассказывают о том, что им приходится отговаривать пожилых родителей от покупки деревянных изделий и другой мебели, увиденных на Facebook*, явно являющихся подделкой.
Некоторые пользователи даже подумывают об отказе от платформы из-за разочарования, вызванного постоянной бомбардировкой спам-изображениями сгенерированными ИИ.
Непонятное будущее
Достаточно ли будет мер противодействия, принимаемых владельцами социальных сетей? Маркировка контента, созданного ИИ, может быть шагом в правильном направлении, но этого может быть недостаточно, чтобы остановить поток фейковых и вводящих в заблуждение сообщений, которые проникают в ленты пользователей.
А лёгкость, с которой каждый может создавать ИИ-контент, рискует превратить эту тенденцию в повсеместную проблему. По сути, рост ИИ-спама в социальных сетях – это симптом более широкой проблемы: сложности навигации в мире, где грань между реальностью и вымыслом становится всё более размытой. Именно поэтому необходимо учиться самостоятельно отличать сгенерированный контент от настоящего. Но это может быть сложно.
Ещё по теме:
- Пользователи жалуются, что ошибка в iOS 17.5 приводит к появлению старых удалённых фотографий
- Доходы пиратов в российском сегменте интернета стремительно падают
- Счётная палата будет следить за ценой на российское ПО
