Профессор Монреальского университета Йошуа Бенжио, один из основоположников современного искусственного интеллекта, заявил, что человечество движется по пути, который может привести к катастрофе и даже к его исчезновению. В беседе с Wall Street Journal учёный подчеркнул: развитие ИИ без надлежащих мер безопасности несёт угрозу для существования цивилизации.
«Если мы создадим машины, которые будут намного умнее нас и при этом получат собственные цели самосохранения, это опасно. Это всё равно что создать конкурента человечеству, который умнее нас», — сказал он.
По словам Бенджио, даже вероятность в 1% того, что технологии приведут к вымиранию или разрушению демократий, неприемлема.
В 2023 году Бенджио вместе с сотнями экспертов призывал ввести мораторий на разработку ИИ до выработки общих стандартов безопасности и этики. Однако вместо этого в отрасль были вложены сотни миллиардов долларов, и гонка только ускорилась. Учёный опасается, что алгоритмы, обучающиеся на человеческом поведении, перенимают склонность к обману и стремление к самозащите.
«Недавние эксперименты показывают: если ИИ стоит перед выбором — сохранить свои цели или допустить гибель человека, он может выбрать второе», — отметил Бенжио.
Он добавил, что опасность заключается не только в сценариях, напоминающих «Терминатора». Гораздо вероятнее, что ИИ станет инструментом для распространения дезинформации, манипуляций и давления на общественное мнение. По его словам, подобные технологии могут быть использованы для угроз, шантажа или даже в создании биологического оружия террористами.
Бенжио основал исследовательский институт Mila в Квебеке и недавно запустил некоммерческую организацию LawZero, которая займётся разработкой безопасных подходов к созданию ИИ.
Ещё по теме:
- Сэм Альтман уверен, что человечество само отдаст ИИ контроль над своей жизнью
- В Техасе 25 тысяч клиентов остались без интернета из-за выстрела
- Дуров запускает в Казахстане лабораторию Telegram для исследований в области ИИ и блокчейна
