Прорыв ИИ в математике вызвал споры о приоритете и роли машин
How An AI math breakthrough ignited a controversy
OpenAI заявила о решении задачи Navier-Stokes с помощью агентной системы, потратив миллионы на вычисления за 88 часов. Однако сообщество указывает на возможную утечку исследовательских идей и сомневается, что такой подход применим к материаловедению или разработке лекарств, где нет формальной верификации. Спор о том, кто на самом деле совершил открытие, продолжается.
Что заголовки преподнесли как открытие AGI, факты показывают скорее как человека, годами добывавшего золото: до OpenAI доходит слух, что в этом конкретном месте может быть золото, они добывают там и мгновенно находят золото, а затем рассказывают миру, что разработали лучшую в мире машину для поиска и добычи золота.
- rsfern
Независимо от того, что вы думаете о споре о приоритете, обсуждаемом в соседних ветках, я крайне скептически отношусь к заключительной цитате о том, что этот результат по Навье-Стоксу означает, будто тот же подход — небрежно потратить несколько миллионов на агентные вычисления — позволит решить сквозной дизайн материалов или разработку лекарств.
Эти проблемы нельзя формально верифицировать с помощью автоматического доказателя теорем. У нас есть множество инструментов физического моделирования, но они, как правило, сосредоточены на небольших подмножествах полной задачи проектирования и делают ограничивающие приближения, потому что иначе они были бы слишком вычислительно затратными, или у нас просто нет нужных данных, чтобы параметризовать их за пределами описания качественного поведения. Агенты помогают ускорить исследования в этих областях, но, я думаю, это в основном другой класс задач, которые гораздо сложнее специфицировать и верифицировать.
- afavour
Ключевой фрагмент:
> Однако общение быстро стало конфликтным. По словам Бакмастера, OpenAI предложила дать ему единоличное авторство на решение задачи Навье-Стокса — но только если имя Альпёге будет удалено из работы и если в отчёте будет указано, что проблема была решена внутренней моделью OpenAI. Бакмастер отказался, отчасти потому, что его беспокоил вопрос о том, что на самом деле видела система OpenAI. Например, по словам Бакмастера, компания изначально не дала ему чёткого ответа о том, имели ли её агенты доступ к логам пары в Codex (который является продуктом OpenAI).
> Руководители OpenAI отрицали, что какой-либо сотрудник или ИИ-агент видел работу пары до того, как исследователи опубликовали её 7 сентября. Но остаётся отдельный вопрос: могла ли работа пары попасть в модели OpenAI через её обучающие данные?
> В блоге OpenAI, анонсирующем решение задачи Навье-Стокса, эта возможность не исключается: «Хотя это маловероятно, мы не можем исключить, что деидентифицированные данные, полученные в результате использования [Бакмастером и Альпёге] наших продуктов, помогли улучшить наши модели».
- timmg
Я считаю, что пытаться обогнать этих исследователей было довольно сомнительным поступком, даже если они не использовали их методы. Тот факт, что они могли непреднамеренно «позаимствовать» их работу через обучающие данные, делает это намного хуже.
Поведение OpenAI в этой ситуации — даже если рассматривать только их версию событий — было (в лучшем случае) в плохом вкусе.
- plaidfuji
Всё это отдаёт отчаянием убыточного стартапа с венчурным финансированием, ищущего очередную PR-победу, чтобы удержать ветер в парусах.
Но, я думаю, в гонке за абсолютным признанием упускается из виду, что обе стороны в конечном итоге полагались на LLM (причём одну из моделей OpenAI). Либо исследователь-человек совершил прорывное открытие с помощью Codex, либо последняя модель GPT совершила прорыв с помощью человеческих обучающих данных, либо и то, и другое понемногу… так или иначе, нельзя отрицать, что LLM быстро стали неотъемлемой частью рабочих процессов R&D и ускоряют исследования.
Для любой нормальной компании это была бы крупная победа. Можно было бы даже построить более масштабное сотрудничество с этим парнем, дать ему большой бюджет и продвигать расширения этого предварительного результата, а взамен написать о том, как он использует вашу модель в своём рабочем процессе. Огромная PR-победа. Это говорит мне о том, что их оценка настолько астрономическая, что единственный способ её оправдать, по их мнению, — продемонстрировать полностью автономного бота для открытий… которым он просто не является.
- elgertam
> «Я, конечно, не ожидаю, что индустрия продолжит тратить миллионы долларов на решение задач в математике, потому что в этом нет прибыли», — написал в электронном письме в Science математик Колумбийского университета Майкл Харрис. Но он беспокоится, что широко разрекламированное достижение будет «чрезвычайно вредным для математики; оно убеждает лиц, принимающих решения, что математики-люди устарели, и убеждает молодых людей, что их страсть к математике не имеет будущего».
LLM, похоже, особенно хорошо подходят для таких задач-доказательств существования. Работающие математики, как представляется, по-прежнему абсолютно необходимы для результатов с универсальной квантификацией. Я сильно сомневаюсь, например, что если бы Великая теорема Ферма не была доказана три десятилетия назад, LLM смогла бы выполнить работу, эквивалентную изобретению математики, как это сделал Эндрю Уайлс для решения задачи. У меня похожие сомнения насчёт P vs NP, гипотезы о простых числах-близнецах и даже гипотезы Римана (если только у последней нет хотя бы одного контрпримера).
И хочу внести ясность: я не принижаю достижения этих моделей. Это замечательно! Я просто думаю, что паттерн успеха связан с доказательствами существования или поиском контрпримеров, что имеет смысл, исходя из того, как функционируют и обучаются LLM.
- pseudolus
Обширное обсуждение поста в блоге OpenAI о Навье-Стоксе: https://news.ycombinator.com/item?id=49613262 .
Статья Quanta Magazine, которая также обсуждает некоторые спорные моменты: https://www.quantamagazine.org/ai-has-solved-one-of-maths-1-...
- VyseofArcadia
Независимо от конечного результата, поведение OpenAI было бы этическим скандалом, завершающим карьеру, для математика-человека. Уже один этот фрагмент положил бы конец карьере.
> По словам Бакмастера, OpenAI предложила дать ему единоличное авторство на решение задачи Навье-Стокса — но только если имя Альпёге будет удалено из работы и если в отчёте будет указано, что проблема была решена внутренней моделью OpenAI.
Интересно, не будет ли подходящим ответом со стороны математического сообщества старое доброе бойкотирование. Математики могут сколько угодно пользоваться инструментами OpenAI, но никто, имеющий текущую или прошлую аффилиацию с OpenAI, никогда не будет опубликован в авторитетном журнале.
- fxj
К сведению: рассматриваемая задача — это задача существования. Никакого реального построения какой-либо реальной формулы для решения не предоставлено, только сингулярное разложение по возмущениям.
Короче: задача о том, можно ли найти решение (уравнений Навье-Стокса с внешней движущей силой), которое взрывается за конечное время, т.е. демонстрирует бесконечную скорость в точке даже для вязкого потока.
Решение: взять анзац кругового завихрения, который сжимается в xy-направлении и удлиняется в z-направлении, и посмотреть, можно ли найти линеаризованные волны так, чтобы эти волны демонстрировали взрыв при распространении на завихрении. Затем доказать, что высшие порядки возмущения регулярны до момента сингулярности T0, и задача решена. Внешняя сила — это просто остаток правой части уравнения Навье-Стокса.
Это масса утомительной жонглировки формулами для всех высших порядков и некоторых сингулярных разложений по возмущениям. Идеально подходит для систем компьютерной алгебры. OpenAI, вероятно, использовала python sympy для работы с формулами, а исследователям приходилось направлять LLM, что делать, на языке высшей математики.
Вот статья:
https://cdn.openai.com/pdf/32d9f210-8b73-45e0-91bc-82a30aef8...
когда загрузите её в chatgpt astra, она может объяснить, что они делают и почему это работает, развлекайтесь.