Google DeepMind представила экспериментальный инструмент на основе искусственного интеллекта Backstory, который помогает изучать происхождение и контекст изображений, опубликованных в интернете. Сервис предназначен для того, чтобы пользователи могли принимать более обоснованные решения о достоверности визуального контента.
Компания отмечает, что способы создания, распространения и восприятия изображений в сети постоянно меняются. В 2024 году Google опубликовала исследование о том, как оценка контекста и происхождения материалов помогает определить степень доверия к информации. Разработка Backstory стала продолжением этой работы, наряду с инструментами отслеживания происхождения контента, контекстными функциями в сервисах и инициативами по повышению цифровой грамотности.
Как работает Backstory
Пользователь может загрузить изображение и сформулировать текстовый запрос. Backstory анализирует, было ли изображение создано с помощью ИИ, где и когда оно уже использовалось в интернете, а также могло ли оно подвергаться цифровому редактированию.
Инструмент формирует сведения о найденном контексте, отвечает на дополнительные вопросы и готовит отчёт с результатами проверки. В частности, Backstory может описать, как изображение применялось в различных публикациях и как менялась история его использования с течением времени.
Проверка контекста важнее одного признака
Backstory построен на модели Gemini и использует несколько технологий обнаружения материалов, созданных генеративным ИИ. Однако система не ограничивается попыткой определить, является ли картинка синтетической: она сопоставляет результаты с данными об использовании изображения в сети и с доступными метаданными, чтобы ответить на запрос пользователя в более широком контексте.
В Google DeepMind подчёркивают, что отсутствие признаков генерации ИИ ещё не означает достоверность изображения. Реальный снимок может быть отредактирован или опубликован без важного контекста, из-за чего у аудитории складывается вводящее в заблуждение представление о событии.
Обратная ситуация также возможна: изображение, созданное ИИ, может сопровождать правдивый фактический материал или творческую работу. Поэтому оценка надёжности визуального контента требует понимания не только способа его создания, но и обстоятельств, в которых он был опубликован и распространён.
Тестирование и дальнейшая разработка
В DeepMind считают, что поддержание целостности информационной среды требует совместной работы технологических компаний, общественных организаций, властей, исследователей и самих пользователей. На этапе исследований и разработки Backstory команда сотрудничает с проверенными тестировщиками, включая создателей контента и специалистов по работе с информацией.
В течение года разработчики намерены собирать отзывы о конкретных примерах, пользовательском опыте и работе сервиса, чтобы доработать технологию и сделать её полезнее. Желающие могут оставить заявку на участие в тестировании Backstory через форму регистрации интереса.
Мнение редакции
Распространение генеративных инструментов делает недостаточной простую проверку вопроса «настоящее это фото или нет». Backstory интересен попыткой показать цепочку контекста: где изображение появлялось, как его могли изменить и в какой истории оно использовалось. При этом выводы подобных систем не должны заменять журналистскую проверку фактов.
