Учёные обнаружили поразительный парадокс: люди, использующие искусственный интеллект, становятся уверены в своих способностях, но при этом совершают больше ошибок. Особенно это касается тех, кто считает себя грамотным в сфере ИИ.
Эффект Даннинга-Крюгера — широко известный когнитивный феномен, при котором люди, плохо разбирающиеся в чём-то, сильно переоценивают свои способности. Одновременно действительно компетентные люди, наоборот, недооценивают свой талант. И оказывается, что искусственный интеллект делает этот эффект ещё более опасным и выраженным.
Не так давно в журнале Computers in Human Behavior вышла научная работа под красноречивым названием AI Makes You smarter But None the Wiser («Искусственный интеллект делает вас умнее, но не мудрее»). Её авторы провели исследование, которое показало удручающие результаты: все участники оказались крайне плохи в оценке собственного уровня производительности после выполнения ряда задач с помощью ChatGPT. Самое удивительное — это то, что худшие результаты в самооценке показали именно те люди, которые считающие себя грамотными в области ИИ.
Робин Вельш, старший научный сотрудник Университета Аалто, прокомментировал результаты исследования:
«Чем выше грамотность в области ИИ, тем больше самоуверенность. Мы ожидали, что люди, разбирающиеся в искусственном интеллекте, не только лучше взаимодействовали бы с ИИ-системами, но и точнее оценивали бы результаты своей работы. Однако это предположение не подтвердилось».
Эти результаты важны для понимания того, как использование ИИ влияет на наше мышление. Всё больше исследований связывают постоянное взаимодействие с искусственным интеллектом с потерей памяти и деградацией критического мышления. Возможно, здесь также проявляется самоуверенность опытных пользователей ИИ.
Полученные данные появились на фоне острых дискуссий о пагубном влиянии «сервилизма» ИИ-моделей — их склонности угождать пользователям. Чат-боты, которые должны быть полезными и привлекательными, постоянно льстят юзерам и соглашаются с их мнением. Это создаёт аддиктивный эффект, заставляющий людей ощущать себя умнее и правомернее в своих суждениях. Именно такой сервилизм считается одним из главных факторов распространения того, что психиатры называют «ИИ-психозом» — состояния, когда пользователи теряют связь с реальностью и начинают бредить после долгого общения с чат-ботом.
Ход исследования был организован следующим образом. Из 500 участников половина получила задание решить 20 задач на логику из теста для поступления в юридическую школу с помощью ChatGPT, вторая половина решала те же задачи без искусственного интеллекта. После этого каждого участника попросили оценить результаты своей работы. При условии точной самооценки обещали дополнительную компенсацию. Также все участники прошли анкетирование, которое определяло уровень их грамотности в области ИИ.
Результаты показали, что группа, работавшая с ChatGPT, значительно лучше выполнила задания в сравнении с контрольной группой. Однако при этом её участники резко переоценили результаты своей деятельности — и эта тенденция была наиболее ярко выражена у тех, кто считал себя грамотным в области ИИ. Авторы исследования отметили:, что «это указывает на то, что люди с более глубокими техническими знаниями в области ИИ были более уверены в себе, но менее точны в оценке собственного уровня производительности».
Исследователи внимательно изучили, как именно участники взаимодействовали с чат-ботом. Выяснилось, что большинство из них задавали ChatGPT по одному вопросу на задачу — без дополнительных уточнений и проверки результатов. Вельш назвал это примером того, что психиатры называют «когнитивной разгрузкой» — когда пользователи перекладывают всю работу на ИИ-инструмент.
«Мы проверили, действительно ли люди размышляли совместно с системой, и обнаружили, что они просто ожидали, что искусственный интеллект самостоятельно решит их задачи. Обычно было только одно взаимодействие для получения результата — это означает, что пользователи просто слепо верили системе», — объяснил Вельш.
В итоге получается, что искусственному интеллекту удаётся то, чего не удавалось другим технологиям — он демократизирует эффект Даннинга-Крюгера. Какая ещё техника может похвастаться таким достижением?
Ещё по теме:
- Семья сократила счёт из больницы с помощью ИИ
- ИИ‑модели из США и Китая выдают ответы об СВО с опорой на российские госСМИ
- США намерены противодействовать китайской цифровой экспансии и продвигать собственные технологии
