Массовые сокращения, упразднение корректуры и давление техногигантов превратили журналистику в лёгкую добычу для генераторов фейков.
Прошло почти ровно три года с момента выхода ChatGPT от OpenAI, и за это время цунами низкосортного контента, созданного искусственным интеллектом, превратило значительную часть интернета в практически неузнаваемый хаос. Тексты, небрежно сгенерированные большими языковыми моделями, проникли в бесчисленное множество сфер: от юриспруденции, где адвокаты цитируют выдуманные машиной судебные прецеденты, до музыкальных чартов, где лидируют цифровые хиты с бессмысленными текстами от несуществующих исполнителей.
Однако особенно острый экзистенциальный кризис переживает мир журналистики. Технологии позволили любому желающему генерировать тексты, которые звучат авторитетно и правдоподобно, но на поверку оказываются чистой фикцией.
Охота на призрака
Показательный случай описал редактор торонтского интернет-журнала The Local Николас Хьюн-Браун. В своём расследовании он рассказал, как едва не поручил написание материала автору, представившемуся Викторией Голди (Victoria Goldiee).
На первый взгляд всё выглядело нормально: писательница утверждала, что сотрудничала с несколькими известными изданиями, и быстрый поиск в Google, казалось, подтверждал её слова. Она предложила актуальную тему о «медицине по подписке» (membership medicine), сравнив её с бизнес-моделью Netflix и Amazon Prime. Однако вскоре появились тревожные сигналы. Первым «звоночком» стал стиль переписки: фразы в письмах Голди звучали неестественно и высокопарно — характерный признак текстов, созданных чат-ботами.
Дальнейшая проверка вскрыла более серьёзную проблему: многие цитаты в её опубликованных статьях были полностью выдуманы. Хьюн-Браун связался с дизайнером Янг Ху, чьи слова Голди приводила в материале для издания Dwell.
«Я не разговаривала с этим репортёром и не давала такой цитаты», — заявила дизайнер в разговоре с редактором.
Конвейер плагиата
Как выяснилось, Хьюн-Браун был не единственным, кто заподозрил неладное. Другие редакторы также замечали странности в работе подозрительно продуктивного автора. Нэнси Эйнхарт, бывший редактор издания PS, рассказала, что статьи под авторством Виктории слишком явно копировали материалы, опубликованные в других местах.
«Помню, я была разочарована, потому что питчи Виктории мне действительно нравились, — поделилась Эйнхарт. — Кстати, вы уже третий редактор, который связывается со мной по поводу этого автора за последние пару месяцев. Очевидно, она устроила настоящий чёс по изданиям».
Хьюн-Браун решил вывести «Викторию» на чистую воду и договорился о видеозвонке, но за десять минут до начала она написала, что сможет говорить только голосом. В трубке раздался бодрый голос молодой женщины с африканским акцентом.
На вопрос, где она живёт в Торонто, собеседница радостно ответила: «На Блур!». Это звучало так же нелепо, как если бы москвич на вопрос о районе ответил «На Ленинском» — назвав одну из самых длинных и очевидных магистралей, которую первой выдаёт Google.
Когда редактор прямо спросил, почему врач Даниэль Мартин не помнит интервью, Виктория не растерялась:
«О да, я говорила с ней! Точнее, с ней разговаривал мой личный помощник».
Идея о том, что у фрилансера есть личный ассистент для интервью, была абсурдной, но Виктория держалась уверенно, парируя каждый вопрос новой ложью. Когда речь зашла о выдуманном профессоре из шотландского журнала, она повесила трубку...
Кем же была «Виктория Голди»? Хьюн-Браун склоняется к версии, что это не просто бот, а реальный человек, вероятно, из Нигерии, использующий ИИ для массового производства контента.
В одном из ранних текстов Голди, опубликованном в мае 2022 года (за полгода до выхода ChatGPT), редактор нашёл ключ к разгадке. Текст был написан на плохом английском, с ошибками, но в нём, всё же, чувствовалась жизнь. Автор писала о давлении социальных сетей, заставляющих всех казаться успешными.
«Большинство людей, таких как я, просто устали и пытаются выживать день за днём», — говорилось в той статье.
Это, возможно, единственная правда во всей истории. За фасадом из сгенерированных успехов, выдуманных цитат и фейковых профилей скрывается «уставший человек», нашедший способ обмануть сломанную систему медиаиндустрии. Систему, где редакции сокращают фактчекеров, платят копейки за слова и сами поощряют генерацию контента, стирая грань между журналистикой и информационным шумом.
Гонка на дно
И подобный случай — лишь верхушка айсберга. Мошенники, выдающие себя за фрилансеров, всё чаще пытаются обмануть редакции, предлагая тексты, наполненные вымышленными цитатами реальных людей. Жертвами подобных схем становятся даже такие авторитетные издания, как Wired и Quartz.
По мнению Хьюн-Брауна, происходящее — симптом деградации индустрии, измученной массовыми увольнениями. ИИ потряс основы журналистики: топ-менеджеры с энтузиазмом подталкивают осторожных репортёров к использованию технологий, несмотря на их хорошо задокументированную склонность к выдумкам.
Ситуацию усугубляет и политика Google. Корпорация всё чаще отговаривает пользователей переходить по ссылкам, предлагая взамен сгенерированные ИИ сводки, которые нередко содержат ошибки. Это подрывает бизнес-модели многих изданий, зависящих от доходов с рекламы на сайтах.
«Мошенники пользуются экосистемой, уникально уязвимой для обмана, — пишет Хьюн-Браун. — Это мир, где издания с престижными именами публикуют под своими брендами сырые материалы; где упразднены отделы фактчекинга, а редакторы перегружены работой; где технологии сделали фальсификацию статей тривиальной задачей, а десятилетия обесценивания журналистики до уровня простого "контента" стёрли границы настолько, что уже трудно вспомнить, где они вообще проходили».
Синтетическое будущее
После обращения Хьюн-Брауна несколько изданий, среди которых были The Guardian и Dwell, удалили материалы Виктории Голди. Но у самого редактора остался неприятный осадок. Этот инцидент рисует мрачные перспективы для всех, кто пытается честно работать в медиа.
«Я был фрилансером большую часть своей карьеры, поэтому, став редактором, всегда старался отвечать на каждую вдумчивую заявку, — резюмирует Хьюн-Браун. — Но теперь, глядя на них, я вижу лишь синтетический блеск искусственного интеллекта. Вероятно, где-то там, в этой куче, похоронены письма от талантливых молодых авторов. Но у меня просто нет сил разгребать всё это дерьмо, чтобы их найти».
Ещё по теме:
- Евросоюз готовит новый удар по Apple: под прицелом «Карты» и реклама
- Китайский андроид прошел 106 километров и побил мировой рекорд
- ИИ в КНДР создаёт новую антиутопию, выходящую за пределы фантазии Оруэлла
