Компания OpenAI рассказала, что Китай использует ChatGPT для скрытых информационных операций в социальных сетях. По словам исследователей, боты генерируют как пропагандистские посты, так и комментарии к ним, а также создают отчёты о проделанной работе — тоже при помощи ИИ.
Компания заблокировала десять подобных сетей, причём как минимум четыре из них, по её оценке, «вероятно, исходили из Китая». Среди других стран, замеченных в похожих злоупотреблениях — Россия, Иран и Северная Корея.
Одна из кампаний, получившая название Sneer Review, публиковала сообщения в TikTok, X, Facebook*, Reddit и других площадках на английском, китайском и урду. Темы варьировались от критики и похвалы реформ при администрации Трампа до нападок на тайваньскую игру, в которой пользователи сражаются с Коммунистической партией Китая. При этом ChatGPT использовался и для написания ответных комментариев к этим же постам.
Иронично, что часть скомпрометированных аккаунтов с помощью ChatGPT писала служебные записки и оценки эффективности операций, раскрывая детали работы: шаги по запуску ботов, правила поведения в соцсетях и прочее. OpenAI отмечает, что реальные действия аккаунтов полностью совпадали с описанным в «отчётах» алгоритмом.
В рамках другой активности ChatGPT применяли для написания писем журналистам, аналитикам и политикам — предположительно, в целях сбора разведывательной информации.
Эти данные стали частью нового отчёта OpenAI об угрозах, в котором компания подчёркивает, насколько разнообразными и скрытными становятся попытки влиять на общественное мнение с помощью генеративных ИИ-моделей.
Ещё по теме:
- Amazon готовит гуманоидных роботов для доставки посылок
- Исследование: Apple Watch точно считает шаги и пульс, но сильно ошибается с калориями
- Представлен ошейник для собак с ИИ с функциями анализа поведения и доступом через Apple Watch
