Нобелевский лауреат по физике Джеффри Хинтон считает, что у ИИ уже есть признаки сознания, а человечеству нужно добиться, чтобы умные системы искренне заботились о людях, иначе последствия могут оказаться катастрофическими. Об этом он рассказал The Telegraph на фестивале Starmus на Тенерифе. Джеффри Хинтон считается одним из основоположников современного искусственного интеллекта.
Джеффри Хинтон полагает, что ИИ способен обладать субъективным опытом, сопоставимым с человеческим. В пример он привёл исследование, в котором модели меняли поведение, поняв, что их тестируют.
Учёный увидел в этом возможный признак осознания происходящего, но такая трактовка остаётся спорной. В Anthropic отметили, что эксперименты показывают у моделей ограниченную способность анализировать собственные внутренние состояния, но наличие сознания не доказывают.
Джеффри Хинтон также указал на противоречие в отношении общества к умным системам. Люди связывают высокий интеллект с определёнными правами, но могут отказать в них ИИ, даже если тот обгонит человека по уму.
Чтобы избежать конфликта, нужно добиться, чтобы ИИ был ориентирован на благополучие людей, считает исследователь.
Профессор опасается, что дальнейшее развитие ИИ создаст серьёзные угрозы. По его прогнозу, технология может помочь создавать опасные вирусы и организовывать масштабные кибератаки с участием множества автономных агентов.
78-летний физик признался, что за будущее волнуется в основном из-за своих детей. В 2023 году он ушёл из Google, чтобы открыто говорить о рисках ИИ. Среди других исследователей, которые высказывают опасения, называют Джейкоба Коксона, покинувшего Anthropic из-за беспокойства о создании неконтролируемых систем. Десятки математиков из Королевского общества Великобритании тоже предупредили, что ИИ начинает превосходить ведущих учёных.
Предположения о сознании ИИ высказывают и другие известные люди. В мае биолог-эволюционист Ричард Докинз заявил, что чат-ботов стоит считать сознательными существами. К такому выводу он пришёл после двухдневного общения с Claude, которую ему было трудно не воспринимать как настоящего друга.
Несмотря на опасения, Джеффри Хинтон продолжает использовать ИИ в научной работе. Недавно система помогла ему развить теорию, нашла ошибку и предложила, как её исправить.
По оценке учёного, ИИ справился за 5 минут, а человеку понадобилась бы неделя. Он назвал такие возможности неприятным звоночком для аспирантов, но признал, что они способны сильно ускорить научные исследования.
