В своём знаменитом эссе «Рассмотрите омара» Дэвид Фостер Уоллес задавался вопросом об этичности варки этих созданий заживо. Новые технологии приносят новые поводы для размышлений: если бы Уоллес был жив сегодня, он бы, вероятно, написал о биохакинге мозга лобстеров и передаче управления искусственному интеллекту. Именно это попыталась сделать группа молодых ИТ-предпринимателей из Сан-Франциско. Их история, описанная в недавнем репортаже журнала The Atlantic о так называемых «хакерских домах», наглядно демонстрирует уровень компетенций и этических стандартов в многомиллиардной ИИ-индустрии.
Наши герои – 32-летний Эллиот Рот и 19-летний Уильям Джой. Они живут в одном из многих «хакерских домов», которые сейчас появляются по всему городу: это своеобразные общежития, где молодые стартаперы делят быт и обмениваются безумными идеями. Их жилище называется Biopunk House. Там обитают два десятка начинающих «технологических властелинов», а сам дом входит в более широкую сеть The Residency, консультантом которой выступает генеральный директор OpenAI Сэм Альтман.
План дуэта заключался в следующем: взять набор для дистанционного управления тараканом и вживить его лобстерам. Доказав, что они могут заставить ракообразное выполнять базовые действия (например, щёлкать клешнями), экспериментаторы собирались подключить киборга к OpenClaw – популярному ИИ-агенту с открытым исходным кодом, на логотипе которого как раз изображён лобстер. Разумеется, игра с биологией живого существа задумывалась отчасти как технологическая шутка.
Но разве мозг лобстера не отличается кардинально от мозга таракана? И не требует ли такое вмешательство серьёзных нейрохирургических навыков? Стартаперы не задавались такими вопросами. Как показывает мода на вайб-кодинг (написание кода «по вайбу», с помощью ИИ), многие энтузиасты не воспринимают всерьёз проблему личной компетентности. Они искренне верят: если есть технологии, всё как-нибудь разрешится само собой.
«Я почти уверен, что это будет первый реальный случай взаимодействия сложного ИИ-агента с биологическим организмом», – восторженно заявлял Джой журналисту The Atlantic на этапе планирования эксперимента.
При этом Рот и Джой настаивали, что глубоко заботятся о благополучии лобстеров. Они даже обсуждали возможность применения анестезии. Джой уверял, что они много думают над тем, как избавить животных от страданий, и подчёркивал, что эти лобстеры всё равно были «предназначены для обеденного стола». В знак уважения к вкладу ракообразных в науку стартаперы пообещали съесть их после завершения проекта.
Однако амбиции столкнулись с суровой реальностью – в первую очередь для самих лобстеров. Когда несколько недель спустя репортёр решил узнать о судьбе эксперимента, он обнаружил, что аквариум «был явно лишён какой-либо жизни или, если уж на то пошло, жидкости». Лобстеры погибли ещё до начала операции. Животные всё же попали на хирургический стол, но уже в рамках «предварительного вскрытия», которое провёл Джой. Молодой человек признался, что пережил этический кризис, задаваясь вопросом:
«А стоит ли мне вообще всё это делать?»
Есть их никто, естественно, не стал.
Позже Джой признал, что они, возможно, просто ошиблись с солёностью воды. Лобстеры погибли из-за элементарной халатности. У Рота и Джоя не было ни малейшего опыта для проведения подобных нейрохирургических операций, но они искренне верили, что смогут решить сложные моральные и технические задачи «по наитию».
Эта история стала идеальной метафорой легкомыслия, с которым многие представители ИИ-индустрии относятся к этике и реальному миру за пределами своего информационного пузыря. Компании продолжают внедрять технологии, несмотря на то что чат-боты регулярно выдают галлюцинации и вредоносные советы, ИИ генерирует дипфейки без согласия людей, а дата-центры требуют колоссальных затрат энергии. Индустрия предпочитает просто двигаться дальше, иногда изображая чувство вины, как это регулярно делает, например, компания Anthropic.
Попытка «подружить» лобстера с нейросетью звучит как сюжет для абсурдной комедии, но на деле она вскрывает пугающий инфантилизм, которым сегодня пропитана Кремниевая долина. Когда люди с амбициями демиургов не могут даже правильно посолить воду в аквариуме, их желание перепрограммировать человечество и создать искусственный разум начинает вызывать серьёзные опасения. Эта история – тревожный звонок для всех нас: мы доверяем разработку технологий, определяющих будущее планеты, тем, кто привык решать фундаментальные проблемы методом «вайб-кодинга» и надеяться на авось.
