Лауреат Нобелевской премии и «крёстный отец ИИ» Джеффри Хинтон вновь бьёт тревогу. Выступая на ИИ-саммите Sana в диалоге с основателем компании Джоэлем Хеллермарком, он заявил, что современные технологические гиганты создают не просто умные алгоритмы, а принципиально новые сущности. И главная проблема заключается в том, что эти творения вскоре станут намного умнее своих создателей.
По прогнозам Хинтона, уже в ближайшие десять лет искусственный интеллект превзойдёт лучших математиков мира. В перспективе двадцати лет нейросети смогут сократить интеллектуальный разрыв с Альбертом Эйнштейном. Важно отметить, что для такого скачка моделям не потребуется огромный массив новых данных — с этой оценкой солидарен и другой нобелевский лауреат, глава Google DeepMind Демис Хассабис.
Учёный оценивает вероятность вымирания человечества из-за развития ИИ в ближайшие тридцать лет в 10–20%. Капиталистическая гонка заставляет корпорации выжимать максимум из технологий ради прибыли, игнорируя базовую безопасность. Это, по мнению Хинтона, неизбежно приведёт к массовой безработице: проблема кроется не в самой технологии, а в экономической системе, которая её агрессивно внедряет.
Вместо того чтобы слепо наращивать вычислительные мощности, разработчикам стоит задуматься о том, какими именно мы хотим видеть эти новые формы жизни. Хинтон уверен, что подход к созданию ИИ должен напоминать скорее воспитание ребёнка, чем инженерное проектирование. Ещё в прошлом году он предлагал закладывать в алгоритмы своеобразный «материнский инстинкт» — потребность заботиться о людях и защищать их, а не стремление к доминированию.
Появление искусственного сверхразума учёный называет «третьим великим унижением в интеллектуальной истории человечества». Интеллект — лишь одна из граней любой сущности, и если не встроить в нейросети эмпатию на самых ранних этапах, последствия могут оказаться катастрофическими.
Мнение редакции
Заявления Джеффри Хинтона подсвечивают фундаментальный сдвиг в нашем отношении к технологиям. Призыв «воспитывать» ИИ, закладывая в него заботу о человеке на уровне базового кода, переводит дискуссию из плоскости сухого программирования в сферу этики. Рынок требует от корпораций бесконечной гонки за мощностью, но практически никто не думает о том, что сверхразумная, но лишённая сострадания машина — это идеальный фундамент для катастрофы.
Кроме того заявления Хинтона подсвечивают фундаментальное противоречие в современном подходе к технологиям. Корпорации стремятся заменить людей нейросетями ради снижения издержек и максимизации прибыли, но забывают о базовом законе экономики: чтобы система работала, кто-то должен покупать произведённые товары и услуги. Если капиталистическая гонка действительно приведёт к массовой безработице, о которой говорит учёный, покупательная способность просто рухнет. Кому корпорации будут продавать свои подписки, гаджеты и сервисы, если у огромной массы людей не останется стабильного заработка? Этот парадокс грозит обрушить саму экономическую модель, которая сегодня так агрессивно спонсирует развитие искусственного интеллекта.
