В фокусе

«Крёстный отец ИИ» предсказал возможное вымирание человечества

Йошуа Бенжио считает, что сверхразумные машины могут стать конкурентами людям

Профессор Монреальского университета Йошуа Бенжио, один из основоположников современного искусственного интеллекта, заявил, что человечество движется по пути, который может привести к катастрофе и даже к его исчезновению. В беседе с Wall Street Journal учёный подчеркнул: развитие ИИ без надлежащих мер безопасности несёт угрозу для существования цивилизации.

«Если мы создадим машины, которые будут намного умнее нас и при этом получат собственные цели самосохранения, это опасно. Это всё равно что создать конкурента человечеству, который умнее нас», — сказал он.

По словам Бенджио, даже вероятность в 1% того, что технологии приведут к вымиранию или разрушению демократий, неприемлема.

В 2023 году Бенджио вместе с сотнями экспертов призывал ввести мораторий на разработку ИИ до выработки общих стандартов безопасности и этики. Однако вместо этого в отрасль были вложены сотни миллиардов долларов, и гонка только ускорилась. Учёный опасается, что алгоритмы, обучающиеся на человеческом поведении, перенимают склонность к обману и стремление к самозащите.

«Недавние эксперименты показывают: если ИИ стоит перед выбором — сохранить свои цели или допустить гибель человека, он может выбрать второе», — отметил Бенжио.

Он добавил, что опасность заключается не только в сценариях, напоминающих «Терминатора». Гораздо вероятнее, что ИИ станет инструментом для распространения дезинформации, манипуляций и давления на общественное мнение. По его словам, подобные технологии могут быть использованы для угроз, шантажа или даже в создании биологического оружия террористами.

Бенжио основал исследовательский институт Mila в Квебеке и недавно запустил некоммерческую организацию LawZero, которая займётся разработкой безопасных подходов к созданию ИИ.


Ещё по теме:

Меню