Большинство из нас убеждены, что легко отличат сгенерированное нейросетью лицо от настоящего. Новое исследование учёных Университета Нового Южного Уэльса (UNSW) и Австралийского национального университета (ANU) показывает: эта уверенность давно устарела и может обернуться реальной опасностью.
В эксперименте участвовали 125 человек — 36 так называемых «суперраспознавателей» (людей с исключительными способностями к идентификации лиц) и 89 человек из контрольной группы. Им показывали серию изображений и просили определить: живой человек или ИИ-генерация? Все очевидные технические дефекты из выборки заранее убрали.
Конец эпохи артефактов
Раньше поддельные лица выдавали себя сами: кривые зубы, уши, словно приклеенные не туда, очки, сросшиеся с лицом, фон, который «затекал» в волосы. Теперь этого нет. Современные системы генерации лиц не дают очевидных сбоев — и старые ориентиры попросту перестали работать.
«Многие думают, что по-прежнему могут отличить подделку, потому что пробовали такие инструменты, как ChatGPT или DALL·E, — говорит психолог ANU Эми Даузл. — Но эти примеры не отражают того, насколько реалистичными стали наиболее продвинутые системы генерации лиц».
Слишком идеальные, чтобы быть настоящими
Участники с обычными способностями справились с задачей лишь чуть лучше случайного угадывания. Эксперты в этом деле показали результат повыше — но преимущество оказалось минимальным, а некоторые «обычные» участники и вовсе обошли экспертов.
Ирония в том, что современные ИИ-лица выдают не ошибки, а, напротив, чрезмерное совершенство.
«Они не бросаются в глаза дефектами — они подозрительно усреднённые: идеально симметричные, хорошо пропорциональные, статистически "типичные"», — объясняет Даузл.
Именно то, что обычно воспринимается как признак привлекательности, теперь становится тревожным сигналом.
Что это значит на практике
Исследователи предупреждают: слепое доверие к визуальной оценке больше не работает. Это критично в самых разных ситуациях — от соцсетей и приложений для знакомств до профессиональных платформ вроде, где люди привыкли считать, что «сразу видно», настоящий ли профиль.
«Нам нужен здоровый скептицизм, — говорит исследователь UNSW Джеймс Данн. — Долгое время мы смотрели на фотографию и считали само собой разумеющимся, что видим реального человека. Теперь это допущение больше не работает».
Учёные также не исключают существования «суперраспознавателей ИИ-лиц» — людей, которые каким-то образом уже умеют отличать генерацию от реальности. Как именно — пока загадка, и именно это исследователи планируют изучить следующим.
