Математик из Канады Йошуа Бенжио считается одним из отцов-основателей современной технологии искусственного интеллекта. Именно он стоял у истоков создания нейронных сетей и алгоритмов глубокого обучения совместно с Янном Лекуном и Джеффри Хинтоном. Вместе с ними в 2018 году эксперт получил Нобелевскую премию в области информатики.
Теперь Йошуа Бенжио серьёзно обеспокоен темпами развития и внедрения современных технологий искусственного интеллекта. Специалист убеждён, что эти технологии способны навредить международному сообществу и несут в себе непредвиденные риски.
По мнению канадского математика, на данный момент рассматриваются два основных долгосрочных риска. Прежде всего, есть вероятность, что развитие сверхразумного искусственного интеллекта может привести к ситуации, когда машины станут настолько умными, что смогут работать независимо от человека, представляя для него угрозу. Помимо этого, ещё одним риском считается возможность того, что искусственный интеллект в будущем может стать высокоэффективным инструментом, обеспечивающим контроль и манипулирование людьми, что приведёт к появлению тоталитарных режимов.
В частности, по словам Йошуа Бенжио, уже сейчас искусственный интеллект активно применяется в ходе предвыборной кампании в США. В ходе недавно проведённых исследований риск использования новейшей модели ChatGPT в террористических целях оценивался как средний.
Йошуа Бенжио убеждён, что сейчас требуется разработка как технических, так и политических мер для уменьшения рисков, связанных с современными технологиями искусственного интеллекта. Прежде всего, необходимо разрабатывать технологии, направленные на лучшее понимание и контроль искусственного интеллекта.
Помимо этого, необходимо введение регуляторных мер, ограничивающих развитие искусственного интеллекта в тех сферах, где он может представлять угрозу для общества. Канадский математик сравнивает ситуацию в мире с искусственным интеллектом с движением по туманной горной дороге, потому что люди до сих пор не знают, что ждёт их впереди с учётом текущих темпов развития искусственного интеллекта. В этом случае можно либо продолжать движение на высокой скорости, надеясь на лучшее, либо притормозить, приняв все необходимые меры предосторожности.
При этом, по мнению Йошуа Бенжио, существует фундаментальный риск того, что возрастающая зависимость человечества от искусственного интеллекта может привести к крайне отрицательным последствиям, если системы выйдут из-под контроля. В этом случае, как отмечает эксперт, будет крайне трудно «выдернуть вилку из розетки».
Ещё по теме: