ChatGPT, как утверждает Nieman Lab, создавал карикатуры, напоминающие работы издания The New Yorker, и добавлял к ним подписи реальных художников журнала. Из-за этого пользователи социальных сетей могли принять сгенерированные изображения за оригинальные рисунки.
Вопрос привлёк особое внимание после того, как в августе в соцсетях широко разошлась созданная нейросетью карикатура с певицей Долли Партон. На изображении она попадает в рай под руку с британским актёром Тимом Карри; СМИ пишут, что оба умерли в том же месяце. Публикация собрала десятки тысяч отметок, репостов и комментариев.
Под рисунком стояла подпись «BLOPER» — такой псевдоним использует карикатурист The New Yorker Брендан Лопер. Сам он рассказал Nieman Lab, что не имеет отношения к этой работе. По его словам, изображение сгенерировали в ChatGPT, в после опубликовали результат в соцсети. Пользователь генерации попросил создать «карикатуру в стиле The New Yorker».
Лопер отметил, что сначала сообщение о рисунке ему переслал его знакомый. Затем художнику начали писать незнакомые люди, интересуясь, действительно ли он нарисовал карикатуру.
«Это было очень странно», — сказал Лопер.
Как отмечает Nieman Lab, это был не единичный случай. В мае пользователь другой соцсети предупредил Лопера, что его псевдоним появился на другом изображении, созданном чат-ботом. Летом карикатурист обнаружил ещё несколько похожих примеров на Reddit-форуме, посвящённом ChatGPT.
По данным расследования, аналогичная ситуация коснулась и других авторов The New Yorker. Чат-бот, предположительно, воспроизводил стилистические признаки и подписи Гарри Блисса, Эмили Флейк, Джо Датора, Пэта Бирнса, Питера Вея и Джейсона Адама Каценстайна. Всего в Nieman Lab задокументировали более 15 эпизодов.
Лицензионное соглашение на карикатуры
Ситуация выглядит особенно неудобной для OpenAI с учётом её соглашения с Condé Nast — владельцем The New Yorker. В 2024 году компания Condé Nast заключила с OpenAI многолетнюю лицензионную сделку, охватывающую значительную часть её материалов. Условия контракта публично не раскрывались.
Представитель The New Yorker заявил Nieman Lab, что журнал никогда не разрешал разработчикам больших языковых моделей обучать системы на его карикатурах. Он также указал, что типовые договоры с художниками-фрилансерами не предусматривают лицензирования работ для обучения ИИ.
OpenAI не стала объяснять, каким образом подписи художников могли попасть в данные модели. В ходе собственных тестов в Nieman Lab установили, что ChatGPT без затруднений генерировал карикатуры в стилистике The New Yorker по соответствующему запросу. После обращения редакции к OpenAI сервис начал показывать предупреждение при таких запросах. Однако на момент публикации расследования чат-бот всё ещё добавлял имена реальных карикатуристов к некоторым изображениям общего характера.
Мнение редакции
Проблема генеративного ИИ не сводится к внешнему сходству с узнаваемой эстетикой. Подпись художника – это не декоративная деталь, а его профессиональная репутация и связь с конкретной работой. Даже если сервис ограничивает отдельные запросы после жалобы, сохранение подобных ошибок ставит вопрос о том, насколько надёжно сервисы умеют отделять обучение на культурном наследии от имитации авторства.
