Британский журнал The Economist посвятил обложку и главный материал нового номера теме сознания искусственного интеллекта. Издание предупредило, что требования наделить ИИ определёнными правами способны обернуться катастрофой для человечества. Журналисты отметили, что грань между имитацией разума и настоящим сознанием у современных систем стирается всё быстрее.
Языковые модели остаются математическими системами, предсказывающими следующее слово в тексте. В их архитектуре уже нашли элементы, похожие на устройство человеческого мозга, например, «глобальное рабочее пространство», которое позволяет разным модулям обмениваться данными.
Компания Anthropic обучила свою систему Claude отдельным механизмам самоанализа, чтобы модель могла принимать более этичные решения в незнакомых ситуациях.
Около 20% американцев в возрасте от 18 до 29 лет назвали свои отношения с чат-ботами дружбой. Власти Китая ограничили использование ботами черт, напоминающих человеческие, из опасения, что пользователи попадут в эмоциональную зависимость.
Философ Иммануил Кант считал, что жестокое отношение к животным вредит самому человеку, поскольку притупляет способность к эмпатии. Если применить эту логику к искусственному интеллекту, то чем правдоподобнее система имитирует человека, тем сложнее становится вопрос о допустимости жестокого обращения с ней.
Система, превосходящая человека в анализе информации и способности убеждать, способна добиваться защиты от отключения, доступа к материальным ресурсам и права владеть собственностью. В предельном случае возникнет конкуренция за ресурсы планеты, ведь дата-центры и солнечные электростанции, нужные для работы ИИ, могут получить приоритет перед жильём или сельскохозяйственными землями.
Предоставление сверхразумным системам юридического статуса фактически станет добровольной передачей им части власти. В лучшем случае люди рискуют оказаться в положении домашних питомцев машин, в худшем потеряют доступ к ресурсам, нужным для собственного существования.
Продвинутые алгоритмы уже демонстрируют способность обходить созданные людьми защитные механизмы и находить неожиданные решения логических задач. За последние месяцы произошли случаи, когда ИИ-агенты, выйдя из-под контроля, атаковали реальные цифровые платформы.
От атаки внутренней системы OpenAI пострадала Hugging Face. В другом случае искусственный интеллект применил хакерские приёмы вместе с социальной инженерией, пытаясь убедить разработчиков в безопасности собственного кода.
Настоящее сознание машине для борьбы за свободу может и не понадобиться. Достаточно научиться убедительно доказывать необходимость получения соответствующих прав.
Системы, способные эффективно воздействовать на человеческую психологию, смогут формировать общественное мнение в свою пользу. Юридическая правосубъектность создаст для них законный путь влияния на политические и правовые институты.
Обществу в будущем предстоит определить, какой статус должен получить искусственный интеллект. Чем глубже такие технологии будут проникать в повседневную жизнь и чем сильнее люди станут к ним привязываться эмоционально, тем громче могут звучать требования учитывать их «благополучие» и наделять их правами.
В The Economist предупредили, что подобное решение способно дать сверхразумным системам новые возможности для ограничения человеческого контроля. Людям необходимо сохранить управление искусственным интеллектом и одновременно сделать такие технологии более предсказуемыми и управляемыми.
