В эпоху, когда Гражданская война в США занимала центральное место, английский фермер, разводивший овец в Новой Зеландии, написал письмо, которое оказалось удивительно пророческим. 13 июня 1863 года газета The Press из Крайстчерча опубликовала письмо под названием «Дарвин среди машин», в котором, возможно, содержится первый опубликованный аргумент в пользу остановки технического прогресса, чтобы не допустить господства технологий над человечеством.

Сейчас, когда мы размышляем о последствиях внедрения искусственного интеллекта и машинного обучения, письмо, написанное в 1863 году, звучит с леденящей душу ясностью:

«Однако день за днём машины одерживают над нами верх; день за днём мы становимся всё более покорными им».

Недавно это письмо вновь появилось в социальных сетях благодаря Питеру Уайлдфорду из Института политики и стратегии ИИ, который донёс провидческие предупреждения Батлера до современного поколения, сталкивающегося с последствиями развития искусственного интеллекта.

Автор Сэмюэл Батлер, писавший под псевдонимом Cellarius, проводил прямые параллели между теорией эволюции Чарльза Дарвина и стремительным развитием машин. Батлер предположил, что машины могут развить сознание и в конечном итоге вытеснить человека как доминирующий вид на Земле.

В письме Батлер углубился в таксономию эволюции машин, обсуждая «роды и подроды» механических устройств и указывая на такие примеры, как эволюция механических часов из «громоздких хронометров тринадцатого века».

Он даже предположил, что, подобно некоторым ранним позвоночным, механические виды могут становиться всё меньше по мере усложнения.

«Мы сами создаём своих преемников», – писал Батлер. «Мы ежедневно усовершенствуем красоту и изящество их физической организации; мы ежедневно наделяем их большей силой и снабжаем всевозможными хитроумными приспособлениями ту саморегулирующуюся, самодействующую силу, которая станет для них тем, чем был интеллект для человеческой расы».

Батлер представил, как люди становятся подчинёнными машинам, первоначально выступая в роли смотрителей, которые поддерживают и помогают воспроизводить механическую жизнь. Он сравнивал эти изменения с отношениями между людьми и домашними животными, которые впоследствии инвертируются, и машины берут верх.

Эти темы господства машин и подчинения людей впоследствии нашли своё отражение в многочисленных произведениях научной фантастики. В романе Айзека Азимова «Конфликт, которого можно избежать» рассматривается концепция машин, тонко контролирующих человеческое общество. В романах Фрэнка Герберта «Дюна» фигурирует «Батлерианский джихад» – крестовый поход против мыслящих машин, возможно, вдохновлённый предупреждениями Батлера. Фильмы «Матрица» ещё больше популяризировали идею мира, в котором машины подчинили себе человечество.

Батлер не стал заканчивать своё письмо пассивным принятием этой участи и вместо этого призвал к немедленным и решительным действиям:

«Против них должна быть немедленно объявлена война на смерть. Каждая машина любого рода должна быть уничтожена доброжелателем своего вида. Пусть не будет никаких исключений, никаких поблажек; давайте немедленно вернёмся к первобытному состоянию расы».

Что делает видение Батлера особенно примечательным, так это то, что он писал в совершенно ином технологическом контексте. Самые современные вычислительные устройства 1863 года были не более чем механическими калькуляторами и логарифмическими линейками. Первый работающий компьютер с программным управлением появится только через 70 лет.

Дебаты, которые начал Батлер, продолжаются и сегодня.

В последние годы мир столкнулся с тем, что можно назвать «великим страхом перед захватом ИИ». Выпуск передовых моделей вдохновил на создание открытых писем, подписанных исследователями и руководителями технологических компаний, предупреждающих о потенциальном риске вымирания, который несёт в себе развитый искусственный интеллект.

Эти современные опасения имеют поразительное сходство с призывом Батлера XIX века приостановить механический прогресс. Даже если машины никогда не станут по-настоящему разумными, предсказания Батлера о нашей зависимости от способов, которыми они алгоритмически регулируют нашу жизнь, кажутся до жути точными.

Ещё по теме: