Исследовательская группа DeepMind, входящая в структуру Google, опубликовала объёмный доклад, в котором описан подход компании к обеспечению безопасности общего искусственного интеллекта. Под этим термином разработчики подразумевают систему, сопоставимую по уровню умственных способностей с квалифицированным взрослым человеком.

В документе [PDF] подчёркивается, что подобные технологии вполне могут появиться уже к 2030 году, при этом учёные не исключают потенциальной угрозы глобального масштаба.

Один из соавторов материала, сооснователь DeepMind Шейн Легг, принял участие в подготовке документа объёмом 145 страниц. В нём подчёркивается, что развитие общего искусственного интеллекта способно привести к масштабным негативным последствиям.

Говорится о возможности серьёзного вреда, в том числе рассматривается сценарий полного исчезновения человечества как результат внедрения подобных технологий. Система, которую описывают в компании, должна будет соответствовать уровню 99-го процентиля среди квалифицированных взрослых при выполнении умственных задач, в том числе и тех, что требуют способности к самоанализу и быстрому освоению новых умений.

В своём материале DeepMind сравнила собственную концепцию обеспечения безопасности искусственного интеллекта с действиями других ведущих игроков в этой сфере.

В частности, сотрудники компании считают, что в Anthropic недостаточно внимания уделяется вопросам контроля над процессами обучения. В то же время подход OpenAI, по мнению авторов доклада, чрезмерно опирается на автоматизированные инструменты для исследования рисков — систему, обозначаемую как «согласование».

Интересно, что недавно в OpenAI заявили о смещении приоритетов с разработки AGI на работу со сверхразумными системами. Специалисты DeepMind скептически относятся к такой перспективе. Они выражают сомнение в том, что в обозримом будущем удастся создать искусственный интеллект, способный превосходить человека во всех интеллектуальных задачах.

По словам авторов, для появления сверхразумных ИИ-систем потребуются радикальные изменения в подходах к архитектуре таких технологий. Без них ожидать подобных прорывов в ближайшее время не стоит, подчёркивается в документе.

Вместе с тем исследователи допускают другой сценарий, при котором уже существующие инструменты могут позволить системам обучаться и развиваться без участия человека. То есть искусственный интеллект будет способен на самоусовершенствование, создавая всё более мощные версии себя.

Ещё по теме: