Математика без человека: золотой век или тёмная эпоха?
Will it be a golden age or a dark age for mathematics (and science)?
Франческо Маджи в гостевом посте для блога Теренса Тао разбирает, как LLM меняют математику и науку. Модели уже выдают корректные доказательства на Lean, но их перевод на естественный язык настолько запутан, что требует долгого изучения. Автор задаётся вопросом: зачем нужны доказательства, если их никто не понимает? Он выделяет восемь факторов, определяющих, станет ли это золотым веком с открытой наукой или тёмной эпохой, где знание сосредоточено в немногих руках и отчуждено от человеческого понимания.
Без людей, которые понимают математику, буквально не существует человеческой математики — фундаментальной части человеческой культуры.
- dualvariable
Я думаю, что я немного на стороне «золотого века» в этом вопросе.
Математический слопокалипсис бесполезен, если его нельзя превратить в математику, которую можно преподавать реальным людям, найдя лежащие в основе объединяющие принципы.
Все эти результаты вида O(n log(n)^(1-delta)) намекают на то, что за ними всеми, вероятно, стоит некий объединяющий «трюк» и что для любой задачи существует верхняя граница для delta. Это действительно должно быть возможно преподавать по учебнику, а затем любой студент-человек мог бы воспроизвести любой из результатов LLM как разобранную задачу.
Для всего, что LLM удаётся доказать с помощью тысяч или миллионов строк кода на Lean, где-то там, скорее всего, отсутствует целая ветвь математики.
Реальным людям нужно биться над задачами и сгенерированными LLM решениями до тех пор, пока они не нащупают лежащие в основе принципы, вероятно, используя ИИ, чтобы помочь себе в этом.
Скорее всего, вы не добьётесь этого, просто попросив LLM изобрести новую ветвь математики и «не допускать ошибок»; математики, которые научатся хорошо направлять LLM на поиск объединяющих принципов, а затем синтезировать (и перепроверять) результаты, вероятно, добьются больших успехов в своей области.
- jacquesm
Я понимаю, что Тао в первую очередь математик, и уважаю то, что он остаётся «в своей колее» (он не писал этот пост, но опубликовал его в своём блоге). Но, думаю, было бы справедливо экстраполировать и задуматься над этим вопросом не только применительно к математике, но и ко всей науке. Имейте в виду, что научные знания можно придерживать или использовать для патентования, и есть масса свидетельств того, что OpenAI, Anthropic и, возможно, другие собираются заняться другими источниками дохода[1], помимо продажи доступа к своим движкам вывода ИИ.
Я могу представить будущее, в котором эти компании станут новыми дзайбацу[2], владеющими патентами в самых разных областях, с взаимно усиливающими друг друга изолированными хранилищами проприетарных технологий, созданных внутренним ИИ, который финансировал весь остальной мир, но доступа к которому у него нет.
[1] Например: https://www.reuters.com/world/anthropic-quietly-sets-up-biol...
- ttul
Моё прочтение недавних высказываний Теренса Тао таково: профессиональные математики в основном расстроены тем, что присланные ИИ математические статьи лишены того рода широкого обучающего содержания, которое предлагают качественные человеческие математические статьи. Хотя ответ может быть верным, статьи по математике от ИИ не учат читателя так, как это сделал бы автор-человек. Профессиональная математика — это не только решение задач; это в равной мере и распространение знаний, чтобы другие могли «запрограммировать» свои человеческие мозги тем же пониманием, которое было у автора статьи, когда он её писал (и получил результат).
Иными словами, кризис в математике (как я его читаю) состоит в том, что ИИ умеет решать, не обучая. Результат может быть впечатляющим, но если единственными существами, способными двигать математику вперёд в будущем, окажутся машины, перемалывающие миллиарды сценариев, на которые ни у одного человека не хватило бы терпения, это оставляет тех, кто в профессии, в раздумьях о своём месте в ней.
- itsalwaysgood
Все это отличные замечания, но я бы ещё отметил, что сценарий «тёмной эпохи» — это сценарий высокой конкуренции, тогда как сценарий «золотого века» — это сценарий высокого сотрудничества.
Я не думаю, что технология угаснет в любом из сценариев. В сценарии «тёмной эпохи» с высокой конкуренцией всё равно будут те, кто «понимает, что производится», стремясь к прогрессу и развитию. Они объединятся с тем/той организацией, которая производит лучшие, наиболее проверенные результаты.
Я не думаю, что знание станет чуждым человеческому пониманию, оно просто снова станет сильно сконцентрированным, как было в прошлом. В прошлом только богатые и знатные могли позволить себе тратить время на образование.
И обычно те, кто углублялся в какую-либо область и вносил вклад в науку, были теми, у кого было время посвятить целые жизни изучению или поиску знаний. Эти проблемы есть у нас и сегодня, и они будут присутствовать всегда.
Существует экономическая цепочка поставок, и мы даём разные вознаграждения в зависимости от ценности произведённого. Работа никогда не исчезает, стремление к престижу, жадность и т. п. никогда не исчезают. Именно поэтому существуют экономики, и именно поэтому все рассматривают ценность LLM, их место в экономиках и в академиях (которые, предположительно, существуют для продвижения человеческого понимания/осознания, но также и для подготовки молодых поколений к будущей работе).
- odyssey7
Очевидно, золотой век.
Я больше не испытываю по этому поводу горечи — прошло много времени. Но в этой истории есть что-то важное.
В своё время я знал, что у меня есть талант к математике, и хотел заниматься исследовательской карьерой. На вводном исследовательском курсе для первокурсников я выбрал задачу, намеренно выходящую за пределы моей зоны комфорта, и придумал несколько классных идей. Это не тянуло на публикацию, хотя курс, по сути, и не предполагал публикаций.
Формулировка задачи так, чтобы её можно было решить с помощью матанализа, оказалась ключевым озарением. Я обратился к Wolfram, поскольку интегралы выходили за рамки того, что я как первокурсник мог бы сделать сам, и я понимал, что озарение, породившее решение, было моей собственной работой. Не думаю, что кто-либо в классе смог бы взять эти интегралы. Сам преподаватель не мог мне сказать, что с ними не так, если вообще что-то было не так. И всё же он не был впечатлён и слегка пренебрежительно или критически отнёсся.
Сегодня я мог бы оказаться в волне исследователей, разрабатывающих ИИ для математической работы. Преподаватель мог бы гордиться тем, что формировал математику через своё наставничество. Университет мог бы приглашать меня для выступлений. Вместо этого я в итоге вообще ушёл из математики как области. Теперь я пишу программное обеспечение для банка.
Мир настолько богат, насколько мы его делаем. Не позволяйте своим возможностям и потенциалу истечь. Принимайте материалы, доступные для работы, иначе кто-то другой сделает это, обгонит вас, и вы упустите момент.
Я понимаю, что есть романтическая идея о […]
- ldng
Держу пари на короткий золотой век, когда ИИ соберёт низко висящие плоды лёгкого (для компьютера) перекрёстного сопоставления и вывода. А затем наступит тёмная эпоха, когда никому не будет интересно выносить новые идеи в эту область. Надеюсь, я ошибаюсь.
- grandpajoey
Авторство и признание кажутся антипаттернами в математике. Одна из наименее доступных для меня частей математики — это то, что буквально всё названо в честь людей. Навье-Стокс? Кто это? Честно говоря, я не очень-то и хочу знать, я бы предпочёл, чтобы идеи и информация были поданы с приоритетом на понимание, а не на репутацию автора. Я чувствую то же самое насчёт всей этой греческой нотации — на дворе 2026 год, нельзя ли использовать что-то из обычного обихода, чтобы расширить аудиторию?
Может быть, ИИ действительно сможет радикально улучшить эту ситуацию, сократив разрыв между теми, кто «в клубе», и теми, кто хочет сделать что-то полезное с математическими идеями.
- nestorD
Отличные мысли, многие из которых выходят за пределы математики.
Одна в особенности, о раскрытии секретов, которая мне не приходила в голову (я обнаружил, что практически никто не ставит галочку «не обучать на моих данных»...):
> Аналогично, похоже, что математики уже обеспокоены и осторожны в том, что пишут в исследовательских заявлениях и исследовательских предложениях. В конце концов, администратор или рецензент может загрузить эти документы в LLM, чтобы получить помощь в написании отчёта, тем самым потенциально ставя под угрозу конфиденциальность неопубликованного исследования.