Последний год математик Джеймс Мейнард посвятил не только исследованиям, но и размышлениям о будущем своей профессии. Профессор Оксфордского университета и лауреат Филдсовской премии рассказал The Verge, как традиционно неторопливая академическая дисциплина оказалась вынуждена стремительно приспосабливаться к развитию искусственного интеллекта.
За несколько дней до разговора с Мейнардом компания OpenAI объявила, что получила решения десяти давних математических задач, некоторые из которых оставались открытыми десятилетиями. Подобно генеративным системам, создающим тексты и изображения или предлагающим идеи для науки и медицины, математические модели выявляют закономерности и связи в материалах, использованных при обучении. Затем они комбинируют известные результаты, методы и инструменты, сопоставляют идеи из разных областей и возвращают в научный оборот подходы, затерявшиеся в специальной литературе.
Для Мейнарда и других опрошенных изданием математиков сообщение OpenAI стало источником противоречивых эмоций. Возможность ускорить научные открытия вызывает заметный энтузиазм, но одновременно исследователи испытывают тревогу, а порой и отчаяние, думая о людях, которые посвятили математике всю жизнь, и о следующих поколениях учёных. В одном представители профессии сходятся: глубокая перестройка отрасли уже началась.
Десять задач и спор об авторстве
Для решения задач OpenAI использовала продвинутую, пока не выпущенную модель Astra. Представленные результаты охватывают широкий спектр направлений – от предельно абстрактных вопросов до исследований с потенциальным практическим применением.
Один из результатов касается предельной плотности упаковки сфер в пространствах размерности выше трёх. Эта задача связана с эффективностью кодирования и передачи данных. Другой расширяет возможности кодов коррекции ошибок, позволяющих восстанавливать информацию, искажённую шумом. Ещё один результат закрывает два давних вопроса о том, насколько сложными могут становиться связанные сети до появления в них определённых структурных закономерностей.
В перечень OpenAI также вошли работы по квантовой теории игр и поиску целей в многомерных решётках. Последнее направление может иметь значение для методов постквантовой кибербезопасности.
Особое внимание привлёк результат о существовании несофических групп – бесконечных математических структур, которые, если говорить упрощённо, нельзя приблизить конечными структурами определённого типа. Вопрос о том, существуют ли такие группы, оставался открытым десятилетиями. Однако обсуждение быстро вышло за пределы самой математики: исследователи начали спорить о том, какая часть заслуги принадлежит системе OpenAI, а какая – людям, на чьи недавние работы она опиралась.
Математик Кембриджского университета Франческо Фурнье-Фачо расскзал The Verge, что он и другие специалисты по этой теме сочли первоначальное заявление OpenAI недостаточно внимательным к вкладу Андреаса Тома и Габора Куна. Именно их работы последних лет подготовили основу для представленного результата.
В первой версии публикации OpenAI утверждала, что показывает результаты по задачам, которые оставались открытыми и в решении которых не было продвижения по основному вопросу как минимум десять лет, а чаще – значительно дольше. Позднее формулировку изменили: теперь компания говорит о результатах, каждый из которых либо решает давнюю открытую задачу, либо обеспечивает существенный прогресс в её решении. При этом на странице не появилось отдельного уведомления об исправлении или объяснения причин правки.
Габор Кун, работающий в Математическом институте имени Альфреда Реньи в Венгрии, рассказал, что OpenAI связалась с ним по электронной почте незадолго до публикации и показала полученные выводы. Исходное широкое заявление компании он назвал «довольно комичным», поскольку приложенная научная статья прямо указывала, что доказательство основано на его результатах 2016 и 2019 годов.
«Это довольно комично», – оценил ситуацию математик.
После выхода публикации OpenAI снова написала Куну. Он не стал обнародовать переписку целиком, но зачитал фрагмент письма сотрудника математического подразделения компании. В нём говорилось, что спорная формулировка должна была относиться к другим результатам из подборки и не подразумевала отсутствия прогресса именно в этой задаче. Автор письма признал, что аргументация критически зависит от работ Куна, и пообещал попросить изменить текст заявления.
Представитель OpenAI Лоранс Фоконне подтвердила, что публикацию впоследствии обновили. По её словам, компания скорректировала формулировки, чтобы точнее отразить предшествующие исследования. Хотя вопрос о существовании несофических групп действительно оставался нерешённым десятилетиями, доказательство OpenAI опирается на важные и сравнительно недавние математические работы, вклад авторов которых следовало обозначить должным образом.
После этого Кун задался вопросом, не могли ли подобные упущения возникнуть и в описаниях остальных результатов, относящихся к областям за пределами его компетенции.
Почему достижения Astra трудно оценить
Дать общую оценку результатам OpenAI непросто. Современная математика настолько специализирована, что лишь немногие исследователи способны профессионально проверить работы сразу по всем направлениям, которых коснулась Astra.
Компания опубликовала более 250 страниц научных материалов с изложением решений, а также ещё свыше 60 страниц с описанием того, как формировались ключевые идеи. Каждый результат был формально проверен с помощью Lean – программной системы верификации математических доказательств.
Многие собеседники The Verge признавались, что не могут самостоятельно оценить часть решений или даже ни одно из них. Тем не менее все они говорили о сложившемся в профессиональной среде консенсусе: за заявлением OpenAI, по всей видимости, стоит действительно значимое достижение.
Задачи, которые, по утверждению компании, решила внутренняя версия её «следующей крупной модели», нельзя назвать учебными упражнениями. Мейнард подчеркнул, что математики и специалисты по информатике всерьёз работали над этими вопросами, но неоднократно терпели неудачу.
Научный сотрудник Лондонского института математических наук Янхуэй Хэ отметил, что решение любой одной из десяти задач могло бы помочь исследователю получить академическую должность. Незадолго до разговора он вернулся с четырёхнедельной конференции по искусственному интеллекту и математике в Южной Корее. По его словам, многие участники считали, что за последние полгода в области произошёл своего рода «фазовый переход»: ИИ-системы начали обеспечивать реальные и содержательные научные результаты.
В мае OpenAI уже удивила математическое сообщество, объявив, что некая внутренняя модель опровергла гипотезу Пала Эрдёша, которая не поддавалась исследователям большую часть столетия. В июле математик Гарвардского университета Левент Алпёге сообщил, что модель Claude Fable 5 компании Anthropic опровергла чрезвычайно сложную гипотезу, найдя небольшой контрпример. Тем самым был перечёркнут многолетний курс на доказательство её истинности. Эти случаи стали одними из последних примеров того, как искусственный интеллект справляется с вопросами, представляющими настоящий интерес для профессиональных математиков.
Мейнард вспоминает, что ещё недавно ситуация выглядела иначе. За отдельными заметными исключениями математические достижения ИИ получали широкую огласку, хотя сами задачи часто не привлекали серьёзного внимания специалистов. Скорость перемен застала многих врасплох. Теперь сообществу приходится решать, как реагировать и сможет ли профессия сохраниться хотя бы приблизительно в нынешнем виде.
Собеседники The Verge всё ещё пытались сформулировать собственное отношение к происходящему. Наряду с воодушевлением они выражали удивление и даже шок из-за темпа развития технологий. По наблюдению Хэ, участники конференции в Южной Корее и математическое сообщество в целом нередко преуменьшают значение последних достижений, словно пытаясь сохранить спокойствие на фоне быстро меняющейся ситуации.
Стоимость вычислений и неравный доступ
В основе многих опасений лежит вопрос денег. Профессор Сент-Эндрюсского университета в Шотландии Колва Рони-Дугал сомневается, что университеты согласятся дорого платить за получение новых теорем. По её словам, математика традиционно остаётся сравнительно дешёвой дисциплиной. Для работы зачастую достаточно доски, а многие исследователи даже не подают заявки на гранты, поскольку могут выполнять свои задачи без дорогостоящего оборудования.
Распространение ИИ способно пошатнуть эту модель, даже если расходы останутся скромными по стандартам технологической индустрии. OpenAI оценила стоимость генерации десяти решений Astra примерно в $2000 в токенах – исходя из текущих тарифов API для модели Sol.
Опрошенные изданием учёные предполагают, что реальные расходы могли быть значительно выше. Итоговая сумма зависит от числа задач и неудачных попыток, предшествовавших успешным результатам, а OpenAI не объяснила, каким образом составлялся окончательный список. Но для научной области, привыкшей работать с минимальными бюджетами, даже заявленная стоимость может стать существенным препятствием. Рони-Дугал опасается, что исследователи из небольших и небогатых университетов окажутся полностью исключены из некоторых направлений работы.
Учёных тревожит и усиление коммерческого влияния на сферу, которая исторически развивалась преимущественно открыто. Несмотря на растущую роль вычислений, многие инструменты математиков распространяются с открытым исходным кодом и доступны бесплатно. Самые мощные модели OpenAI и Anthropic, напротив, остаются проприетарными, а доступ к ним контролируют сами компании.
Обе организации предлагают программы бесплатного доступа для академических исследователей, но воспользоваться ими могут далеко не все. Лишь некоторы собеседники издания получили возможность работать с наиболее продвинутыми системами. Мейнард и Рони-Дугал надеются, что со временем разрыв сократят модели с открытыми весами. Тогда математики смогут применять новые инструменты, не попадая в зависимость от нескольких крупных компаний.
Проблема, однако, не ограничивается доступом. Несколько учёных усомнились, что интересы разработчиков ИИ совпадают с ценностями математического сообщества. Компаниям необходимо продавать продукты и подтверждать огромные оценки в преддверии возможного выхода на биржу. Поэтому у них есть стимул преувеличивать собственные достижения и одновременно преуменьшать значение человеческих исследований, без которых эти результаты были бы невозможны.
«Именно это сейчас огорчает меня больше всего. Они используют нашу дисциплину как рекламную площадку», – посетовала Рони-Дугал.
Подобные опасения разделяют не только участники бесед с The Verge. В июне математики опубликовали Лейденскую декларацию – свод принципов ответственного применения искусственного интеллекта в математике. Документ поддержал Международный математический союз, под ним поставили подписи более 3400 человек.
Авторы декларации призывают политиков, государственные органы, СМИ и другие организации не поддаваться ажиотажу, который создают компании, преувеличивающие возможности своих продуктов. Исследователи опасаются, что громкие заявления повлекут практические последствия: фонды и правительства могут решить, что люди-математики уже не так необходимы, как прежде.
Кому принадлежит последний камень
OpenAI уже обвиняли в подобном преувеличении значения результатов Astra – в том числе из-за недостаточного внимания к вкладу Куна и Тома. Сам Кун описывает свои чувства как двоякие. Ему приятно, что его исследования помогли решить значимую задачу, хотя он предпочёл бы самостоятельно довести работу до конца. История принесла ему известность и множество поздравлений, но в ответ он лишь шутит, что теперь станет «очень знаменитым безработным».
Фурнье-Фачо настроен куда менее спокойно. Большинство людей, по его мнению, увидит только заявление OpenAI и примет его без дополнительной проверки. У журналистов и политиков, работающих в сжатые сроки, редко есть время, квалификация и желание изучать сотни страниц технических материалов, чтобы выяснить, какие человеческие исследования предшествовали громкому результату.
По словам математика, компания выбрала наиболее выгодную для себя версию событий. Заявление о том, что ИИ самостоятельно решил задачу после десятилетия бездействия людей, звучит эффектнее, чем признание того, что система использовала человеческие идеи последних десяти лет и умело объединила их.
Фурнье-Фачо признаёт, что распределение признания в математике и без искусственного интеллекта не всегда справедливо. Большую часть славы часто получает человек, сделавший последний шаг. Исследователь сравнивает развитие математики со строительством пирамиды: поколения учёных возводят основание, но в историю входит тот, кто устанавливает последний камень.
Возможно, если бы задачу решил человек, сообщество не настолько настойчиво требовало бы отметить заслуги Куна и Тома. Но когда заключительный шаг выполняет ИИ, появляется риск, что все предыдущие участники работы будут ошибочно признаны ненужными. Кроме того, человек, положивший последний камень, обычно не претендует на рабочие места всех тех, кто строил пирамиду до него.
Угроза для молодых математиков
Особенно остро этот страх проявляется в разговорах о следующем поколении исследователей. Профессор Оксфордского университета Андраш Юхас отмечает, что большие языковые модели начинают решать именно те задачи, которые традиционно поручали аспирантам.
Такие проекты не всегда выглядят впечатляюще, однако работа над ними помогает развивать навыки, интуицию и профессиональные привычки, необходимые для самостоятельной научной карьеры. Исследователь Швейцарской высшей технической школы Цюриха Йоханнес Шмитт предупреждает, что теперь аспиранта может опередить кто-то, кто подключит к той же задаче мощную ИИ-модель.
Последствия уже заметны в образовании. По словам Юхаса, проектные задания становятся проблемным способом оценки знаний студентов бакалавриата, поскольку ИИ-системы всё успешнее выполняют такую работу. Инструменты помогают быстрее получить ответ, но способны навредить глубокому пониманию математики, которое формируется через длительные попытки, ошибки и интеллектуальное усилие.
Мейнард уже думает, как выбирать исследовательские проекты, сохраняющие актуальность для студентов. Если публикации достойна лишь работа, которую не может выполнить искусственный интеллект, ориентироваться на текущие возможности моделей недостаточно. Докторантура обычно продолжается около четырёх лет, поэтому научному руководителю приходится оценивать, с какими задачами ИИ не справится не сегодня, а к моменту завершения проекта.
Неопределённость особенно тяжело действует на математиков в начале карьеры. Фурнье-Фачо говорит, что многие его собеседники по-настоящему напуганы. Он сослался на два пессимистичных эссе аспирантов, которые распространяются в интернете и ставят под сомнение перспективы дальнейшей работы в математике.
Рони-Дугал наблюдала схожие настроения в социальных сетях. Молодые исследователи пишут, что не понимают, чем им теперь следует заниматься и есть ли смысл продолжать. Сама профессор не разделяет крайнего пессимизма, но признаёт, что среди её коллег и студентов подавленность встречается всё чаще.
Может ли ИИ задавать новые вопросы
Значение перемен нельзя оценивать только по количеству решённых задач. Математика развивается не как список вопросов, в котором достаточно последовательно ставить отметки. Ценность решения часто определяется тем, что оно позволяет сделать дальше. Лучшие результаты порождают новые задачи и методы, а иногда создают целые области исследований.
Пока неизвестно, способен ли искусственный интеллект играть такую роль. В то же время преждевременно объявлять решённые им задачи «низко висящими плодами» (метафора, обозначающая самые лёгкие, доступные цели и задачи). Чтобы понять научный вклад новых доказательств и их долгосрочное значение, потребуется время.
Шмитт пока настроен скептически. Он не видит убедительных свидетельств того, что результаты ИИ уже открывают принципиально новые направления мысли и исследований. Отсюда возникает перспектива несбалансированного развития: ИИ сможет массово решать хорошие и интересные задачи, но эти ответы не будут приводить к появлению плодотворных направлений, которыми затем займутся люди.
Не все исследователи воспринимают будущее настолько тревожно. Янхуэй Хэ смотрит на происходящее с заметным оптимизмом. По его мнению, некоторое сокращение числа специалистов, занятых традиционной академической математикой, может оказаться даже полезным на фоне уже существующего тяжёлого рынка труда для выпускников.
Другие собеседники указывают, что ИИ способен расширить круг участников исследований. Студенты и учёные, не имеющие доступа к знаниям и специалистам, сосредоточенным в элитных университетах, смогут развивать собственные идеи и готовить публикации, которые прежде были бы им недоступны. Опытные математики, в свою очередь, смогут передавать системам рутинные операции и уделять больше времени творческой и концептуальной части работы.
Несмотря на надежды и страхи, направление дальнейшего движения остаётся неизвестным. Технологии развиваются слишком быстро, а созданные с их помощью математические результаты появились совсем недавно, чтобы судить об их реальном влиянии. Несколько исследователей опасаются, что дисциплина изменится под воздействием обещаний о будущих возможностях ИИ ещё до того, как сообщество поймёт значение уже полученных результатов.
Мейнарда спросили, заслуживает ли какая-либо из работ Astra Филдсовской премии – одной из высших наград в математике, которую он сам получил в 2022 году. По первоначальной оценке учёного, представленные результаты пока не достигают этого уровня.
Те доказательства, которые Мейнард успел изучить, он назвал очень впечатляющими, но не обязательно поднимающими математику на новый концептуальный уровень. Пока исследователь видит скорее дальнейшее развитие существующих методов и их изобретательное соединение, чем появление фундаментально новых математических идей.
Впрочем, Мейнард подчёркивает, что окончательные выводы делать рано. Иногда лишь время и накопленная перспектива позволяют распознать в доказательстве действительно фундаментальную идею. Проблема в том, что при нынешней скорости развития искусственного интеллекта у математиков может оказаться слишком мало времени для такой оценки.
Мнение редакции
Результаты Astra показывают, что вопрос уже не сводится к тому, способен ли искусственный интеллект участвовать в серьёзной математике. Теперь важнее определить правила проверки, распределения авторства и доступа к вычислительным ресурсам. Формальная верификация доказательств снижает риск технической ошибки, но не решает проблему научной значимости и не заменяет описания человеческого вклада. Если академические институты не выработают собственные стандарты, их фактически установят владельцы наиболее мощных моделей – вместе с ценами, критериями доступа и выгодной им интерпретацией достижений.
