Один из ведущих исследователей искусственного интеллекта, пионер глубокого обучения Йошуа Бенжио представил первый в мире Международный доклад по безопасности ИИ. В этом масштабном исследовании подчёркивается, что дальнейшее развитие универсального ИИ остаётся в высшей степени неопределённым.
Документ [PDF] охватывает огромное разнообразие спектр возможных сценариев, от позитивных до откровенно тревожных. Уточняется, что развитие технологий может принести преимущества в области образования, медицины, научных открытий и повышения уровня жизни во всём мире. В то же время существует опасность их использования в ущерб человечеству.
Профессор Монреальского университета рассказал об опубликованном докладе в соцсети X, отметив, что работа над ним объединила 100 независимых экспертов, среди которых лауреаты Нобелевской премии и обладатели премии Тьюринга. Подготовленный доклад насчитывает 298 страниц и уже доступен для изучения.
Этот документ был создан в рамках Artificial Intelligence Action Summit — международной инициативы, направленной на формирование глобальных подходов к регулированию ИИ. В работе над ним приняли участие представители государств, научных кругов, бизнеса и гражданского общества. Основной целью является выработка единых стандартов, которые позволят избежать наиболее опасных последствий стремительного технологического прогресса.
Авторы доклада сосредоточились на трёх центральных вопросах — какие возможности открывает универсальный ИИ, какие угрозы он несёт и как можно минимизировать эти риски. Среди наиболее серьёзных вызовов упоминаются кибератаки, манипуляции общественным сознанием, а также использование передовых технологий в создании химического и биологического оружия.
Отдельное внимание уделено проблемам системного характера — это дисбаланс в доступе к исследованиям, потенциальное воздействие ИИ на окружающую среду и вероятность отказа критически важных цифровых систем. В докладе предлагаются конкретные меры управления угрозами, охватывающие технологические и политические решения, методы оценки, контроля и снижения возможного ущерба.
В предисловии Йошуа Бенжио напомнил, что идея проведения этого исследования была озвучена ещё в ноябре 2023 года на первом AI Safety Summit. С того момента потенциал ИИ серьёзно вырос, что делает вопросы его безопасного развития ещё более актуальными.
В экспертную группу вошли специалисты из 30 государств, а также представители ООН, ЕС и ОЭСР. В числе советников значится лауреат Нобелевской премии по физике 2024 года Джеффри Хинтон. В докладе также содержатся ссылки на работы Яна Лекуна, занимающего пост главного научного сотрудника Meta и считающегося одним из пионеров современного ИИ.
Йошуа Бенжио подметил, что стремительное совершенствование ИИ требует от мировых лидеров и законодателей осознания возможных рисков. В докладе отмечается, что технологии не развиваются в вакууме — их судьба зависит от решений, которые принимают люди.
Ещё по теме:
- Поддержка восьми дополнительных языков в Apple Intelligence появится в апреле
- Крошечные датчики от Logitech помогут руководителям узнать, занято ли рабочее место
- В США уверены, что китайский DeepSeek покупал чипы Nvidia через Сингапур
