Компания Anthropic, которая среди крупных игроков рынка искусственного интеллекта чаще всего публично говорит о безопасности и потенциальных угрозах технологии, приняла на работу специалиста с весьма нетривиальными взглядами. Новым экономистом компании стал Чад Джонс, давний профессор Стэнфордского университета.
Как отмечает издание Financial Times, ранее Джонс опубликовал научную статью, в которой попытался рассчитать приемлемый уровень риска исчезновения человечества из-за ИИ в сопоставлении с потенциальной выгодой для глобального экономического роста. В своих вычислениях учёный исходил из вероятности экзистенциального риска в 1% ежегодно на протяжении 40 лет, что в итоге даёт человечеству примерно 67-процентный шанс пережить столь бурное развитие алгоритмов.
«Иными словами, с точки зрения логарифмической полезности оптимально принять вероятность завершения человеческого существования, равную 1 к 3, в обмен на вероятность 2 к 3 радикально повысить уровень жизни в 55 раз», — резюмировал Джонс в своей работе.
Фактически, расчёты нового сотрудника Anthropic математически оправдывают готовность рискнуть жизнями всех людей с вероятностью в 33% ради гипотетического сценария, при котором ИИ сотворит беспрецедентное экономическое чудо и обеспечит человечеству утопическое будущее.
Мнение редакции
Когда компания, целенаправленно строящая свой имидж на защите общества от угроз нейросетей, нанимает специалиста с таким радикальным математическим подходом к нашим жизням, это заставляет задуматься о реальных приоритетах технологического сектора. Оцифровка экзистенциальных рисков и приравнивание судьбы цивилизации к циничной ставке в казино ради экономического скачка — достаточно тревожный симптом для всей индустрии.
