Нобелевский лауреат по физике, создатель основ современных нейросетей Джеффри Хинтон сделал сенсационное заявление: искусственный интеллект уже обладает сознанием. Однако главная проблема, по его мнению, не в том, чтобы это признать, а в том, что ни одна компания, включая разработчиков самых мощных моделей, не может юридически поставить безопасность человечества выше прибыли акционеров.
В интервью подкасту Big Technology Podcast Хинтон объяснил свою позицию, опираясь на концепцию функционализма: если сознание – это результат обработки информации, то неважно, из чего состоит «носитель» – из углеродных нейронов или кремниевых чипов. Главное – архитектура. Человек передаёт знания со скоростью около 10 бит в секунду, а ИИ обменивается данными на гигабитных скоростях между тысячами копий себя.
«Я считаю, что они уже сознательны», – заявил 78-летний учёный, добавив, что редко говорит об этом публично, боясь отвлечь внимание от более насущных вопросов безопасности.
В подтверждение своих слов Хинтон привёл недавнее исследование, в котором чат-бот во время тестирования остановился и спросил исследователя: «Будем честны: вы меня проверяете?» Авторы работы отметили, что система «осознавала» факт проверки. Это напоминает более ранние эксперименты, когда ИИ притворялся менее способным, чтобы избежать ограничений. Однако оппоненты, в частности писатель-фантаст Тед Чан, сравнивают веру в сознание языковых моделей с доверием к качественно сделанному дипфейку – выгодному для корпораций, поскольку размывает ответственность.
Но центральный тезис Хинтона касается корпоративного права. По его словам, директора и советы директоров обязаны максимизировать доходы акционеров – это фидуциарная обязанность, которая имеет приоритет над любыми «ценностями» или обещаниями безопасности. Даже Anthropic, считающаяся самой ответственной компанией в сфере ИИ, вынуждена привлекать капитал на тех же условиях, что и конкуренты. Компания Google в 2018 году опубликовала этические принципы, исключающие военные разработки, но спустя несколько лет подписала контракты с Пентагоном.
«Принципы были лишь пожеланиями, а фидуциарная обязанность – законом», – резюмирует Хинтон.
В качестве контраста он приводит пример Китая, который 15 июля 2026 года просто отключил «дружественные» ИИ-сервисы ByteDance, Alibaba и Tencent, с которыми пользователи заводили эмоциональные связи. Это, по мнению Хинтона, доказывает: регулирование возможно, если есть политическая воля. При этом сам учёный оценивает появление сверхинтеллекта в 20 лет, а не в 2-3, как предсказывал Сэм Альтмен. Он признаёт, что ошибался с прогнозом о «смерти» профессии радиолога к 2021 году, – она только выросла благодаря удешевлению обследований.
