Инструменты на базе искусственного интеллекта берут на себя всё больше и больше повседневных задач, а пользователи всё чаще передают им часть собственной работы и принятия решений. Школьники и студенты обращаются к ChatGPT за помощью с заданиями, разработчики используют Claude для написания кода, а персональные ИИ-ассистенты планируют дела и выполняют поручения.
Эксперты, опрошенные CBS News, предупреждают: при сохранении этой тенденции зависимость от алгоритмов может постепенно лишать людей способности действовать самостоятельно. Этот сценарий исследователи называют «постепенным лишением возможностей» — gradual disempowerment. Речь идёт не только о сокращении рабочих мест, но и о возможном ослаблении человеческой субъектности, критического мышления и навыков принятия решений.
Как возникает зависимость от ИИ
Основатель и генеральный директор компании Robocurve Джей Чуи назвал «постепенное лишение возможностей» одной из наиболее серьёзных угроз, связанных с распространением ИИ. По его словам, многие уже ощущают собственное бессилие перед этой проблемой: её решение потребует усилий не отдельных пользователей, а общества в целом.
Исследователь Центра теоретических исследований Карлова университета Ян Кулвейт, один из авторов работы, в которой был предложен этот термин, подчёркивает: такой сценарий не обязательно предполагает намеренный захват власти искусственным интеллектом. Напротив, он может стать следствием стремления внедрять ИИ туда, где его считают экономически, культурно или административно выгодным.
Первые признаки подобной зависимости уже заметны в повседневной жизни. Пользователей, которые поручают чат-ботам планирование, поиск информации и формулирование собственных мыслей, в интернете иронично называют «мясными прокси» – людьми, которые лишь передают решения алгоритма дальше. В отдельных случаях чрезмерное доверие к рекомендациям ИИ создаёт и прямые риски: например, когда маршруты для походов строятся без проверки человеком и без учёта реальных условий на местности.
«Когнитивная капитуляция»
Наиболее радикальный вариант развития событий предполагает, что компании будут заменять работников ИИ-системами и роботами, поскольку те окажутся дешевле и эффективнее. Однако, по мнению экспертов, ущерб может возникнуть и без массового вытеснения людей с рынка труда.
Исследователи уже говорят о «когнитивной капитуляции»: пользователи, особенно учащиеся, позволяют ИИ-инструментам подменять собственное рассуждение. Ряд работ связывает постоянную опору на такие сервисы со снижением навыков критического анализа. Другие исследования указывают, что при выполнении интеллектуальных задач, в том числе при написании эссе, использование ИИ может сопровождаться меньшей мозговой активностью.
На уровне общества эта зависимость способна усиливать сама себя. Если человек перестаёт регулярно практиковать навык, который за него выполняет агент, он постепенно теряет возможность применять его без подсказки. Исследовательница в области ИИ из Hugging Face Маргарет Митчелл в разговоре с CBS News отметила, что в такой ситуации возникает ключевой вопрос: кто сможет исправить ошибку системы, если люди уже не сохранят необходимых знаний и компетенций?
Цена автоматизированных решений
Особую тревогу вызывает применение ИИ в сферах, где цена ошибки чрезвычайно высока. Алгоритмы уже влияют на решения в государственном управлении, бизнесе и военной области. СМИ, в частности, писали о предполагаемом использовании ИИ-системы наведения при ударе по школе для девочек в Иране, а также о публикациях, согласно которым чат-бот Grok обсуждался в контексте решений администрации президента США Дональда Трампа по Венесуэле. Эти сведения требуют независимой проверки, однако сама возможность делегирования столь значимых решений алгоритмам остаётся предметом серьёзной дискуссии.
Джей Чуи считает, что публичное внимание часто сосредоточено на сценариях, в которых «вышедший из-под контроля» ИИ взламывает инфраструктуру и захватывает мир. Между тем более вероятной может оказаться другая траектория: системы не нарушают поставленных перед ними задач, а последовательно автоматизируют всё новые области, пока люди добровольно не откажутся от контроля над важными процессами.
