Terence Tao: математика вступает в эпоху изобилия доказательств

Я работаю в области разработки лекарств и ИИ, и его слайд о лечении рака не очень хорошо информирован. У нас есть модели и нарративы о том, как действуют лекарства, но они удручающе неполны.

Я спрашиваю почти каждого врача/исследователя в медицинской сфере: если бы у вас было созданное ИИ лекарство, которое значительно улучшило бы результаты лечения рака для вашего пациента, вы бы колебались назначать его, потому что никто не понимает, как оно работает? Я ещё не слышал «да, я бы колебался»; большинство людей говорят: «было бы жестоко отказать человеку в лечении, которое работает».

Я думаю, Тао слишком сосредоточен на эффектах второго порядка ИИ в математике и других областях; люди ужасно плохо рассуждают об эффектах второго порядка, особенно о тех, что происходят динамически, в реальном времени, с использованием самых передовых математических моделей, которые мир когда-либо создавал.

> Прежде чем вводить этот коктейль в ваш кровоток, хотели бы вы знать, что есть хотя бы один исследователь рака-человек, который понимает механизм этого лечения.

Тао вышел за свои рамки; у многих лекарств механизмы не поняты. Мы даже не имеем чёткого понимания механизмов общей анестезии; вы хотите отказаться от неё, когда врачи вскрывают вас, чтобы удалить опухоли?

Слайды 12 и 13 подводят итог моим выводам из более чем 100 реакций на более чем 100 решений от 8 октября. Несколько человек сообщили, что выпуск OpenAI включал ответы, которые поставили точку в проблемах, над которыми они работали годами. Несколько сказали, что им пришлось полностью переписать заявки на гранты, которые они только что подали. Другие описывали узнавание о решениях проблем, над которыми они работали, как потерю старого друга или возлюбленного. Общее настроение было сетовать на потерю области, как будто лучше было бы родиться в начале XX века и завершить свою карьеру до этого момента. Мой вывод таков: области нужно вбить себе в голову, что их старые проблемы больше не амбициозны, и что их задача в краткосрочной перспективе — найти новую границу.

Одна идея, которую предполагает Теренс Тао и которая крайне сомнительна, состоит в том, что спам нажатиями кнопки ИИ решит открытые проблемы, не порождая проницательных новых методов. Но выпуск OpenAI, похоже, опровергает это. Доказательство суб O(n log n) для DFT, например, нарушило очень старые человеческие предположения. Десятилетия работы в этой области были постепенным прогрессом в субоптимальном методе, который никто не подвергал достаточной критике. В более общем плане мы всегда должны иметь возможность вернуться к сверхчеловеческому ИИ и сказать: «Атакуй эту проблему, но не используй метод, который пробовали раньше».

Я только что посмотрел видео Primeagen на эту тему, и мысль Тао в том, что у младших специалистов больше нет пути решения доказательства, чтобы заработать медали Филдса. Он также утверждает, что сообщество страдает от того, что ИИ открывает доказательства, потому что раньше люди получали приглашения выступать и сотрудничать. Теперь всё это отнимается. Сообщество должно адаптироваться, потому что ящик Пандоры нельзя закрыть.

Prime также упомянул, что разработка программного обеспечения отличается. В разработке ПО продукт — это то, к чему вы стремитесь, поэтому средства для его достижения могут быть нарушены без каннибализации индустрии.

В математических исследованиях процесс и есть продукт. Уберите исследовательскую часть — и мало что останется. Но мой вопрос: эти математические доказательства, выпущенные OpenAI, — перейдёт ли математика к фактическому использованию доказательств для изменения мира, а не просто к поиску новых?

> Использование ИИ для поиска и выделения новых принципов, методов или инсайтов, а не просто новых доказательств.

Я бы предположил, что, создавая новые доказательства, ИИ либо подтвердил существующие принципы, либо открыл новые? Разве это не стоит изучения?

Математики жалуются, что проверять доказательства ИИ не так весело, как писать свои собственные? Попробуйте быть программистом... добро пожаловать в наш мир!

Если ИИ лишён воображения и не открывает новых принципов, то он делает нам одолжение: он вычёркивает проблемы, которые не нужны новые принципы. Так что оставшиеся проблемы/гипотезы — самые интересные.

Оставив в стороне вопрос о раке: я всё ещё не понимаю, почему TT, похоже, зациклен на том, что модели могут делать сегодня, а не завтра. Реалистично и даже мыслимо, что модели также станут лучше объяснять и представлять доказательства. Может быть, он эмоционально не готов принять, что может не быть будущего, где его (и в некоторой степени мои) навыки останутся релевантными и востребованными. Это разрывает мне сердце. Надеюсь, я ошибаюсь, но такое чувство, что у нас закончилась высокая земля, куда можно убежать.

Со слайда «Beyond Problem Solving»:

«Достижение этих маяков [разрешений открытых проблем] преждевременно с помощью автоматизированных инструментов может нарушить исследование непройденных путей и стерилизовать окружающую область».

Эта ключевая проблема сосредоточена на психологии математиков и структуре стимулов академической/институциональной математики по всему миру. Чтобы математика процветала в будущем, нам нужно перенастроить наш мозг, чтобы думать иначе о природе математического прогресса. И нам нужно переориентировать наши институциональные структуры стимулов на поощрение самого значимого математического прогресса, а не нацеливаться на прокси, которые больше не верны.

Независимо от точной природы или причин «стерилизации», о которой говорит Тао, мы (математическое сообщество) можем рассчитывать только на себя, чтобы исправить это. Хотя, поскольку это потребует фундаментальных изменений на уровне окостеневших академических институтов со множеством заинтересованных сторон и расходящимися корыстными интересами, любое такое исправление будет медленным, разочаровывающим, противоречивым и без каких-либо гарантий успеха.