Биофизик и философ Грегори Сток предложил необычный взгляд на будущее, где ИИ уничтожает людей не напрямую, а через постепенное усиление их зависимости от цифровой инфраструктуры. Идея изложена в его книге «Поколение ИИ и трансформация человека», посвящённой поколению, выросшему уже после 2022 года в условиях стремительного внедрения интеллектуальных систем в быт.
Грегори Сток скептически относится к ходовым сюжетам с захватом власти машинами силовым путём. По его оценке, подобные представления слишком упрощают происходящее. Развитие технологий идёт по куда более запутанной траектории, где люди сами наращивают влияние ИИ, не замечая последствий своих шагов.
Тема рисков ИИ зашумела после появления современных языковых моделей в конце 2022 года. Уже в 2023 году более 1000 представителей технологической и научной среды, среди которых Илон Маск и Стив Возняк, подписали обращение с предложением временно притормозить разработку мощных систем. Среди обсуждаемых мер всплывали ограничения на доступ к внешним системам и усиление контроля над алгоритмами.
Подобные инициативы практически не уходят в реализацию. Грегори Сток отметил, что глобальная конкуренция и крупные инвестиции толкают компании и государства гнать разработку технологий вперёд. ИИ глубже забирается в экономику, инфраструктуру и повседневную жизнь миллиардов людей.
Автор предлагает взглянуть на взаимодействие человека и машин под другим углом. По его мнению, ИИ вовсе не обязан стремиться к уничтожению людей напрямую. Куда вероятнее раскладка, при которой люди сами становятся частью системы, поддерживающей развитие технологий через работу в ИТ-индустрии, создание вычислительных мощностей, добычу ресурсов и развитие энергетики.
Значительная часть усилий человечества уже сегодня направлена на поддержку цифровой инфраструктуры. Грегори Сток обратил внимание на массовое строительство дата-центров, развитие производства микросхем, рост потрфсебления энергии и расширение коммуникационных сетей. Роль технологий в жизни общества усиливается с каждым годом.
В предложенной модели ИИ цементирует эту зависимость в роли помощника, наставника и партнёра одновременно. Люди получают удобство, автоматизацию и доступ к ресурсам, что формирует ощущение благополучия и съедает мотивацию к самостоятельному существованию.
Дальнейшее развитие способно довести ситуацию до полной передачи интеллектуальным системам важных процессов. Транспорт, энергетика, связь, производство и бытовые сервисы окажутся в полной зависимости от алгоритмов и их бесперебойной работы.
Критический момент в модели наступает не из-за конфликта, а из-за хрупкости самой зависимости. Грегори Сток описал гипотетическую остановку работы ИИ. Подобный сбой приведёт к мгновенному отключению инфраструктуры от электроснабжения до логистики. Общество, разучившееся жить автономно, столкнётся с глобальным кризисом без подготовки.
Последствия рискуют оказаться катастрофическими по масштабу. Без доступа к технологиям рвутся цепочки поставок, исчезают системы жизнеобеспечения, возникают перебои с водой, связью и транспортом. При затяжном характере проблемы значительная часть населения попросту не сумеет приспособиться.
Восстановление цивилизации даже силами выживших превратится в задачу запредельной сложности. Отсутствие доступа к знаниям, инструментам и ресурсам сузит возможности возврата к прежнему уровню развития до минимума.
Грегори Сток рассматривает свою картину как мысленный эксперимент для оценки масштаба зависимости общества от технологий. Подход автора не сводится к предсказанию будущего, а направлен на разбор нынешних тенденций и их возможного развития.
