Источники Reuters сообщают, что группа опытных специалистов из OpenAI обратилась к руководству компании с письмом, в котором предупредила о существовании продвинутого ИИ, что потенциально может представлять угрозу для людей. Письмо было направлено за день до того, как Сэм Альтман покинул свой пост.
В центре внимания находится проект под кодовым именем Q*. Это новаторский общий ИИ, самостоятельная система с широким спектром способностей, которая может конкурировать с человеческим интеллектом в различных областях.
В отличие от других нейросетей, Q* обладает высокими математическими навыками. Сейчас ИИ способен решать задачи на уровне младших классов, но с последующим обучением его возможности будут расти.
Беспокойство вызывает и то, что в OpenAI не создали надлежащих механизмов, которые бы обеспечивали безопасность человечества, если Q* станет слишком разумным. Чем это может грозить людям – остаётся только догадываться.
Ещё по теме:
- Мировой рынок смартфонов возвращается к росту – Counterpoint Research
- «Сбер» представил нейросеть Kandinsky Video с возможностью генерации роликов по тексту
- «Наполеон» Ридли Скотта пользуется успехом у зрителей, но не у критиков
