Член совета OpenAI рассказал о ближайших рисках связанных с ИИ

Член совета OpenAI Foundation и комитета организации по безопасности Пол Кристиано заявил, что авария спровоцированная искусственным интеллектом может стать одной из наиболее серьёзных угроз для людей, работающих в этой сфере. С таким предупреждением он выступил на лекциях The Hinton Lectures 2026, организованных исследователем Джеффри Хинтоном.

По словам Кристиано, «для большинства людей в этом зале наиболее вероятной причиной смерти станет авария из-за ИИ». Он не уточнил, относится ли эта оценка прежде всего к специалистам, непосредственно занятым разработкой искусственного интеллекта, однако ранее исследователь неоднократно говорил о рисках утраты человеческого контроля над передовыми системами.

Оценки сроков и вероятностей

Кристиано считает, что вероятность сценария, при котором ИИ выйдет из-под контроля людей, в ближайшие шесть–двенадцать месяцев уже нельзя назвать пренебрежимо малой. Если лаборатории продолжат создавать модели в максимально быстром темпе и не столкнутся с внешними ограничениями, то в горизонте трёх лет риск такого развития событий может приблизиться к «подбрасыванию монеты», заявил он.

Даже при реалистичных мерах регулирования, по его оценке, опасность остаётся исключительно высокой. В сентябре Кристиано оценивал вероятность катастрофической потери контроля над ИИ в 4% в течение года и в 15% в течение трёх лет. При этом он подчёркивал, что речь идёт о субъективных экспертных суждениях, а не о расчёте на основе точной модели.

Кристиано также отметил, что компании, включая OpenAI, вряд ли будут развивать технологии на предельной скорости. Однако вопрос о достаточности действующих ограничений и процедур надзора остаётся открытым: в сентябре он вошёл в совет компании, чтобы участвовать в контроле за практиками безопасности, и одновременно публично говорил о недостаточности мер по снижению рисков катастрофического развития ИИ.

Тревожные оценки других исследователей

Схожие опасения высказывают и другие специалисты по безопасности искусственного интеллекта. Исследователь проекта AI Futures Project Эли Лифлэнд после ознакомления с новыми работами о способности ИИ ускорять собственную разработку написал, что опасается утраты человечеством контроля над будущим в ближайшие три–двенадцать месяцев.

Генеральный директор Redwood Research Бак Шлегерис привёл ещё более суровую оценку. По его мнению, вероятность того, что проблемы несогласованности целей ИИ с интересами человека в течение года радикально нарушат привычную жизнь людей, может составлять около 20%. Среди возможных последствий он перечислил гибель людей, принуждение, ущерб от создания биологического оружия и крупные военные конфликты.

Почему прогнозы требуют осторожности

Авторы таких прогнозов обладают профильной экспертизой и занимаются именно выявлением признаков опасного поведения моделей. Вместе с тем оценки рисков остаются предметом дискуссий: они основаны на предположениях о темпах развития технологий, действиях разработчиков и эффективности государственного регулирования. Часть организаций, работающих над безопасностью ИИ, существует за счёт пожертвований и грантов, поэтому публичная риторика об угрозах неизбежно привлекает к ним дополнительное внимание.

Главный вопрос, который возникает на фоне подобных заявлений, – соответствуют ли реальные меры контроля заявленному масштабу угрозы. Предупреждения о возможной катастрофе требуют не только публичного обсуждения, но и прозрачных стандартов тестирования, независимого аудита систем и понятной ответственности компаний, выпускающих наиболее мощные модели.