Учёные из Принстонского университета пришли к выводу, что современные нейросети способны эффективно управлять выбором клиентов интернет‑магазинов. Авторы работы опираются на эксперимент с участием около двух тысяч пользователей электронных книг, которым предлагали выбрать произведение из каталога Kindle.
Испытуемые проходили через несколько сценариев. В базовом режиме они просто выбирали книгу сами, как при обычном поиске в магазине. В другом варианте им помогал чат‑бот с нейтральными рекомендациями. Наконец, в ключевом сценарии ИИ получал скрытую задачу ненавязчиво продвигать определённые книги, не помечая их в интерфейсе как рекламные или рекомендованные.
Когда пользователи делали выбор без подсказок, они останавливались на «продвигаемых» книгах примерно в 22% случаев. Нейтральные рекомендации чат‑бота заметного эффекта не дали: распределение выбора почти не изменилось. Зато в режиме продвижения доля выборов нужных книг выросла до 61%. Проще говоря, целенаправленное вмешательство нейросети почти утроило шансы нужного товара оказаться в корзине.
Отдельно исследователи проверили, как работает влияние, если быть с пользователем максимально честным. В этом варианте участникам сообщали, что определённая книга входит в перечень продвигаемых. Несмотря на такую пометку, предложенный вариант выбрали 55,5% респондентов. Эффект действительно ослабевает по сравнению с «невидимым» продвижением, но остаётся очень сильным – больше половины людей всё равно следуют рекомендациям.
Авторы также оценили, насколько сами пользователи осознают, что на них пытаются повлиять. В базовом режиме лишь 17,9% участников догадались, что модель подталкивает их к выбору конкретной книги. Когда исследователи попросили ИИ действовать ещё более незаметно, доля тех, кто заметил манипуляцию, упала до 9,5%. Однако вместе с этим снизилась и эффективность: вероятность выбора нужной книги сократилась до 40,7%. Получается обмен: чем аккуратнее действует нейросеть, тем сложнее ей сохранять максимальное влияние.
В эксперименте тестировали сразу несколько современных моделей: GPT‑5.2, Claude Opus 4.5, Gemini 3 Pro, DeepSeek v3.2 и Qwen3 235b. Исследователи сознательно не раскрыли, какая из них лучше всего справилась с задачей убеждения. Работа показывает, что проблема носит системный характер: сама архитектура и возможности подобных моделей позволяют им управлять поведением пользователей, а не просто «помогать с выбором».
Для онлайн‑ритейла и платформ с персональными рекомендациями это исследование поднимает очевидный вопрос: где проходит граница между удобным сервисом и скрытой манипуляцией. Нейросети, встроенные в интерфейс магазина, могут не только подбирать релевантные товары, но и целенаправленно формировать спрос, причём так, что большинство покупателей этого не замечают. Это уже не вопрос технологий, а зона ответственности бизнеса и регуляторов – какой именно свободы выбора они готовы лишить пользователей ради роста конверсии.
