Источники Reuters сообщают, что группа опытных специалистов из OpenAI обратилась к руководству компании с письмом, в котором предупредила о существовании продвинутого ИИ, что потенциально может представлять угрозу для людей. Письмо было направлено за день до того, как Сэм Альтман покинул свой пост.
В центре внимания находится проект под кодовым именем Q*. Это новаторский общий ИИ, самостоятельная система с широким спектром способностей, которая может конкурировать с человеческим интеллектом в различных областях.
В отличие от других нейросетей, Q* обладает высокими математическими навыками. Сейчас ИИ способен решать задачи на уровне младших классов, но с последующим обучением его возможности будут расти.
Беспокойство вызывает и то, что в OpenAI не создали надлежащих механизмов, которые бы обеспечивали безопасность человечества, если Q* станет слишком разумным. Чем это может грозить людям – остаётся только догадываться.
Ещё по теме: