Инструменты генерации видео по текстовому запросу за последние годы заметно продвинулись: если раньше они выдавали искажённые и легко узнаваемые фейки, то теперь способны создавать фотореалистичные ролики. Одновременно растёт риск того, что такие материалы будут использоваться для распространения дезинформации и создания вымышленных свидетельств прошлого.
Партнёр венчурного фонда Andreessen Horowitz (a16z) Джастин Мур рассказала в соцсети X о возможностях модели Flux 3 от Black Forest Labs, в которую инвестировала a16z. По её словам, инструмент особенно хорошо справляется с созданием «исторических кадров».
В качестве примера Мур опубликовала 20-секундный ролик, стилизованный под съёмку 1990-х годов. В нём ученики начальной школы рассуждают о будущем компьютеров. Один из сгенерированных персонажей говорит, что компьютеры, вероятно, будут делать за людей домашнюю работу, другой предполагает, что они смогут снимать фильмы.
На первый взгляд видео воспроизводит безобидный сюжет о детских прогнозах, которые якобы сбылись. Однако публикация вызвала критику в соцсетях. Пользователи обратили внимание, что убедительные ролики, имитирующие архивную хронику, могут размывать границу между документальными материалами и вымыслом.
Риск для доверия к архивам
Как отмечает Gizmodo, отдельные предсказания из ролика не слишком отличаются от футурологических рассуждений, звучавших ещё в 1980-х годах. Вопрос вызывает не содержание самого видео, а возможность массово производить правдоподобные, но полностью сфабрикованные записи о прошлом.
Критики сравнили эту угрозу с мотивом из романа Джорджа Оруэлла «1984», где власти систематически переписывали газеты и другие свидетельства прошлого в интересах правящей партии. В комментариях к публикации Мур пользователи назвали технологию риском для общественного восприятия реальности, источником дезинформации и инструментом контроля над повествованием.
Исследователи и эксперты по цифровой безопасности давно предупреждают, что генеративные модели упрощают производство пропаганды. Различные политические режимы уже применяют подобные технологии для распространения дезинформации и укрепления своего влияния.
Мур продолжила продвигать модель
Несмотря на негативную реакцию, Джастин Мур положительно оценила Flux 3. В следующей публикации она назвала модель «невероятно увлекательной и творческой» и отметила широкий набор её возможностей.
Вместе с сообщением о запуске Flux 3 Мур также опубликовала ещё один ролик в стилистике 1990-х. В нём два человека, напоминающие телеведущих CNN, сообщают зрителям о демонстрации ИИ, способного создавать убедительное видео по текстовому описанию. Один из персонажей после этого спрашивает: «Кто в это поверит?»
Flux 3 был представлен Black Forest Labs в конце июля в ограниченном режиме. По данным журналистов, модель умеет генерировать изображения и видеоролики со звуком продолжительностью до 20 секунд.
Мнение редакции
Проблема таких роликов не сводится к отдельной удачной стилизации под 1990-е. Чем убедительнее сгенерированное видео, тем выше цена прозрачности: зритель должен понимать, где архив, реконструкция или художественный вымысел, а где синтетическая запись. Маркировка, проверяемое происхождение контента и привычка сверять источники становятся не техническими деталями, а необходимым условием сохранения доверия к фактам.
