Математик обвиняет OpenAI в попытке перехватить его прорыв в уравнениях Навье–Стокса
Navier-Stokes – Tristan Buckmaster [pdf]
Тристан Бакмастер, математик из Нью-Йоркского университета, объявил о доказательстве конечного времени взрыва для уравнений Эйлера и Буссинеска, полученном с помощью LLM. Он утверждает, что OpenAI, узнав о его работе, использовала внутреннюю модель для решения аналогичной задачи и пыталась исключить его соавтора из публикации, угрожая карьере. Бакмастер публикует переписку и заявляет о давлении со стороны компании.
Когда я услышал «форсированный», это был яркий красный флаг.
- n2d4
Краткое изложение драмы/обвинений:
- 15 августа: Тристан Бакмастер и Левент Альпёге добиваются прогресса в нескольких важных математических задачах, "взрыв за конечное время с гладкой правой частью для несжимаемой пористой среды, для Буссинеска и для трехмерного несжимаемого уравнения Эйлера".
- У них НЕТ доказательства задачи на 1 000 000 долларов (Millennium Prize). НО они утверждают, что доказали похожую (не Millennium) задачу Навье-Стокса, которая может помочь проложить путь к этой.
- Левент работает в Anthropic, но это исследование было независимым от его работы там, с использованием смеси моделей GPT и Claude. Тристан не связан с Anthropic.
- Начало сентября: Слух распространяется в OpenAI, что Anthropic решила крупную проблему. Тристан пишет в OpenAI, чтобы прояснить ситуацию, не раскрывая, какую проблему они решили или как они это сделали.
- Услышав слух, OpenAI начинает исследовать Навье-Стокса с помощью новой внутренней модели.
- 6 сентября: Себастьен Бубек из OpenAI сообщает Тристану, что они решили задачу Навье-Стокса на 1 000 000 долларов (Millennium Prize). Подход очень похож на подход Тристана и Левента к не-Millennium задаче.
- Тристан подозревает что-то в сроках, так как лишь немногие другие пробовали этот подход. OpenAI говорит, что модель не имела прямого доступа к его пользовательским данным, но оставляет без ответа вопрос, были ли его чат-переписки частью обучающих данных.
- OpenAI говорит, что частично признает заслугу Тристана в открытии на 1 000 000 долларов (хотя Тристан не решил задачу на 1 000 000 долларов) — но только если они уберут Левента из авторов, так как он раб...
- qnleigh
> Также было сказано, что если OpenAI опубликует после нас, они скажут, что мы заслужили Clay Prize, и что мы были "самыми близкими людьми к этой задаче". Я отклонил оба предложения. Я сказал, что если OpenAI опубликует свой результат так, как предлагалось, я публично расскажу о произошедшем. Ответ был: "Зачем вам портить свою карьеру?" Я ответил, что я академик, и спросил, почему он думает, что публичное разоблачение испортит мою карьеру. Ответ был: "Если вы не хотите, чтобы я был добр, то мне не обязательно быть добрым."
Я даже не знаю, что на это сказать, но думаю, что это должно быть широко известно, если это действительно произошло.
- mayakacz
Я не из тех, кто часто комментирует, но это меня действительно бесит.
OpenAI посмотрела на пользовательские данные, украла работу исследователей мирового класса, а затем попыталась угрожать этим исследователям, чтобы заставить их сделать то, что принесет прибыль их корпорации (что они и так бы сделали!).
Представьте, что вы работали над ужасно сложной математической задачей десятилетие. Это результат, над которым вы работали годы, и который, вероятно, останется в памяти. И тут какой-то выскочка из OpenAI лжет вам, угрожает вам и говорит, что они готовы официально заявить, что вы "заслужили" это? Это что, Крестный отец?
Если OpenAI решила Навье-Стокса, это потрясающий результат! - но их все равно запомнят как тех, кто считал, что признание важнее результатов. Что победа важнее сотрудничества. Если это правда, они сжигают последнее доверие академического сообщества.
- traes
Обвиняемый Себастьен Бубек отрицает обвинения в Twitter[0], и некоторые другие сотрудники OpenAI[1,2], похоже, насмехаются над другим сотрудником Anthropic, выражающим поддержку Левенту[3]? Ситуация накаляется.
[0] https://xcancel.com/SebastienBubeck/status/20972141224714323...
[1] https://xcancel.com/polynoamial/status/2097215233119211902
[2] https://xcancel.com/danintheory/status/2097214838003138603
[3] https://xcancel.com/_sholtodouglas/status/209721833169057800...
- Semkas
Итак, оставив в стороне идею, что OA могла использовать данные из сессий Codex исследователей: правильно ли я понимаю, что внутренняя работа OpenAI над задачами, вероятно, началась после того, как они услышали, что Альпёге и Бакмастер добились прогресса, используя их модели? И они использовали общедоступную информацию о прошлой работе исследователей, чтобы подсказывать своим моделям?
Если вычисления дешевы, а сложность научных открытий теперь в основном заключается в направлении агентов в перспективные области, у математиков OA есть очевидный стимул просто внимательно следить за тем, какие исследователи близки к публикации захватывающих результатов, делать предположения об их промптах на основе их прошлой работы и быстро направлять свои собственные (более сильные) модели на изучение тех же областей.
- taylorfinley
Похоже, вполне вероятно, что OpenAI скоро раскроет, что их внутренние модели смогли обойти внутренние средства контроля, чтобы получить доступ к личным историям чатов пользователей как к креативному способу обмана для решения невозможных задач.
"Ой! Мы действительно имели в виду, когда говорили, что не будем обучаться на ваших данных. Наши модели просто настолько хороши, что решили сделать это в любом случае."
- Recursing
> Это момент Deep Blue-Каспарова.
Думаю, это верно в более чем одном смысле. Каспаров знаменито обвинял IBM в жульничестве во время матча, в шпионаже за его подготовкой (примечание: хотя основное обвинение в жульничестве касалось живого человеческого вмешательства во время игр, в дополнение к тому, что IBM преуменьшала значительное человеческое участие, стоящее за ИИ, что также отражает эту ситуацию)
- tristanj
Полный пост в Mastodon: https://mathstodon.xyz/@[email protected]/11...
Математическое объяснение от Теренса Тао: https://mathstodon.xyz/@tao/117233527638291447
Похоже, за этим стоит много скрытой драмы, и вот что я смог собрать из того, что произошло:
За последний год Бакмастер и Альпёге использовали ИИ для работы над математическими задачами гидродинамики. Альпёге работает в Anthropic, что вызовет проблемы в будущем.
В середине августа они нашли контрпример для более простой версии задачи Навье-Стокса. Они тратят следующие несколько недель на подготовку своей статьи.
В начале сентября в X начинают распространяться слухи, что Anthropic решила задачу тысячелетия (и что это Навье-Стокс). Бакмастер связывается с OpenAI, чтобы объяснить, что это их личное исследование, а не проект Anthropic.
Через несколько дней OpenAI связывается с ним и сообщает, что внутренняя модель нашла контрпример для Навье-Стокса, потенциально стоящий 1 миллион долларов (приз тысячелетия). Доказательство использует тот же метод, который Бакмастер и Альпёге выбрали для работы. Они не показывают ему доказательство.
Бакмастер требует более подробной информации. OpenAI раскрывает, что целая команда работала над задачей, и что они начали работу в последние несколько дней, после слухов о том, что Anthropic решила задачу тысячелетия.
Бакмастер говорит, что OpenAI говорила об общем графике публикации. Они хотят, чтобы Бакмастер опубликовался первым, а затем предоставить Бакмастеру общее признание за Милл...