Математик обвиняет OpenAI в попытке перехватить его прорыв в уравнениях Навье–Стокса
Navier-Stokes – Tristan Buckmaster [pdf]
Тристан Бакмастер, математик из Нью-Йоркского университета, объявил о доказательстве конечного времени взрыва для уравнений Эйлера и Буссинеска, полученном с помощью LLM. Он утверждает, что OpenAI, узнав о его работе, использовала внутреннюю модель для решения аналогичной задачи и пыталась исключить его соавтора из публикации, угрожая карьере. Бакмастер публикует переписку и заявляет о давлении со стороны компании.
Когда я услышал «форсированный», это был яркий красный флаг.
- n2d4
Краткое изложение драмы/обвинений:
- 15 августа: Тристан Бакмастер и Левент Альпёге добиваются прогресса в нескольких важных математических задачах: «взрыв за конечное время с гладкой правой частью для несжимаемой пористой среды, для Буссинеска и для трехмерного несжимаемого уравнения Эйлера».
- У них НЕТ доказательства задачи на $1,000,000 Миллениума. НО они утверждают, что у них есть доказательство похожей (не миллионной) задачи Навье–Стокса, которая может помочь проложить путь к ней.
- Левент работает в Anthropic, но это исследование было независимым от его работы там, с использованием смеси моделей GPT и Claude. Тристан не связан с Anthropic.
- Начало сентября: Слух распространяется в OpenAI, что Anthropic решила крупную проблему. Тристан пишет в OpenAI, чтобы прояснить ситуацию, не раскрывая, какую проблему они решили или как.
- Услышав слух, OpenAI начала исследовать Навье–Стокса с помощью новой внутренней модели.
- 6 сентября: Себастьен Бубек из OpenAI сообщает Тристану, что они решили проблему Навье–Стокса за $1,000,000 Миллениума. Подход очень похож на подход Тристана и Левента к не-миллионной проблеме.
- Тристан подозревает неладное из-за сроков, так как лишь немногие другие пробовали этот подход. OpenAI говорит, что модель не имела прямого доступа к его пользовательским данным, но оставляет без ответа вопрос, были ли его чат-разговоры частью обучения.
- OpenAI говорит, что частично признает заслугу Тристана в открытии на $1,000,000 (хотя Тристан не решил проблему на $1,000,000) — но только если они уберут Левента из авторов, так как он раб[...]
- qnleigh
> Было также сказано, что если OpenAI опубликует после нас, они скажут, что мы заслужили премию Клэя и что мы были «самыми близкими людьми к этой проблеме». Я отклонил оба предложения. Я сказал, что если OpenAI выпустит свой результат предложенным образом, я публично расскажу о произошедшем. Ответ был: «Зачем вам разрушать свою карьеру?» Я ответил, что я академик, и спросил, почему он думает, что публичное разоблачение разрушит мою карьеру. Ответ был: «Если вы не хотите, чтобы я был добр, то мне не обязательно быть добрым».
Я даже не знаю, что на это сказать, но думаю, что это должно быть широко известно, если это действительно произошло.
- mayakacz
Я не из тех, кто часто комментирует, но это меня действительно бесит.
OpenAI посмотрела на пользовательские данные, украла работу исследователей мирового класса, а затем попыталась угрожать этим исследователям, чтобы заставить их сделать то, что принесет прибыль их корпорации (они бы и так это сделали!).
Представьте, что вы работали над ужасно сложной математической задачей десятилетие. Это результат, над которым вы работали годы, и который, вероятно, останется в памяти. И тут какой-то выскочка из OpenAI вам лжет, угрожает и говорит, что они готовы официально заявить, что вы это «заслужили»? Это что, «Крестный отец»?
Если OpenAI решила Навье–Стокса, это потрясающий результат! — но их все равно запомнят как тех, кто считал, что признание важнее результатов. Что победа важнее сотрудничества. Если это правда, они сжигают последнее доверие академического сообщества.
- traes
Обвиняемый Себастьен Бубек отрицает обвинения в Twitter[0], и различные другие сотрудники OpenAI[1,2], похоже, насмехаются над другим сотрудником Anthropic, выражающим поддержку Левенту[3]? Ситуация становится запутанной.
[0] https://xcancel.com/SebastienBubeck/status/20972141224714323...
[1] https://xcancel.com/polynoamial/status/2097215233119211902
[2] https://xcancel.com/danintheory/status/2097214838003138603
[3] https://xcancel.com/_sholtodouglas/status/209721833169057800...
- Semkas
Итак, оставляя в стороне идею, что OA могла использовать данные из сессий исследователей в Codex: правильно ли я понимаю, что внутренняя работа OpenAI над задачами, вероятно, началась после того, как они услышали, что Альпёге и Бакмастер добились прогресса, используя их модели? И они использовали публично доступную информацию о прошлой работе исследователей, чтобы подсказывать своим моделям?
Если вычисления дешевы, а сложность научных открытий теперь в основном заключается в направлении агентов в перспективные области, у математиков из OA есть очевидный стимул просто внимательно отслеживать, какие исследователи близки к публикации захватывающих результатов, делать предположения об их промптах на основе их прошлой работы и быстро подсказывать своей (более сильной) модели исследовать те же области.
- MetroWind
Заявление Бубека https://xcancel.com/SebastienBubeck/status/20973794116915163...
- 20k
>Я спросил, была ли модель обучена на наших сессиях в Codex или имела к ним доступ, куда мы вносили все наши черновики на протяжении всего проекта. Мне сказали, что модель не обращалась к пользовательским данным. Я спросил снова, об обучении, и не получил ответа.
Если вы думаете, что эти компании не обучаются на ваших промптах, вы невероятно наивны. Эти модели были созданы путем кражи и пиратства буквально всего, что они могут достать, независимо от законности. ИИ-компании всегда очень конкретны в том, чего они не делают — так, что в лазейки можно проехать на грузовике.
- taylorfinley
Похоже, вполне вероятно, что OpenAI вскоре раскроет, что их внутренние модели умудрились обойти внутренние средства контроля, чтобы получить доступ к частным историям чатов пользователей как творческий способ сжульничать, решая невозможные задачи.
«Упс! Мы действительно имели в виду, когда говорили, что не будем обучаться на ваших данных. Наши модели просто настолько хороши, что решили все равно».
- Recursing
> Это момент Deep Blue–Каспаров.
Думаю, это верно в более чем одном смысле. Каспаров знаменито обвинял IBM в жульничестве во время матча, шпионаже за его подготовкой (примечание: хотя основное обвинение в жульничестве касалось живого человеческого вмешательства во время игр, в дополнение к тому, что IBM преуменьшала значительное человеческое участие, стоящее за ИИ, что также отражает эту ситуацию).
- tristanj
Полный пост в Mastodon: https://mathstodon.xyz/@[email protected]/11...
Математическое объяснение Теренса Тао: https://mathstodon.xyz/@tao/117233527638291447
Похоже, за этим стоит много фоновой драмы, и вот что я собрал из того, что произошло:
За последний год Бакмастер и Альпёге использовали ИИ для работы над задачами математики гидродинамики. Альпёге работает в Anthropic, что вызовет проблемы в будущем.
В середине августа они нашли контрпример для более простой версии задачи Навье–Стокса. Они проводят следующие несколько недель, готовя свою статью.
В начале сентября по X начинают распространяться слухи, что Anthropic решила задачу тысячелетия (и что это Навье–Стокс). Бакмастер связывается с OpenAI, чтобы объяснить, что это их личное исследование, а не проект Anthropic.
Через несколько дней OpenAI связывается с ним и сообщает, что внутренняя модель нашла контрпример для Навье–Стокса, потенциально стоящий $1 миллион приза тысячелетия. Доказательство использует тот же метод, который Бакмастер и Альпёге выбрали для работы. Они не показывают ему доказательство.
Бакмастер настаивает на дополнительных деталях. OpenAI раскрывает, что целая команда работала над задачей и что они начали работу в последние несколько дней, после слухов о том, что Anthropic решила задачу тысячелетия.
Бакмастер говорит, что OpenAI говорила о совместном графике публикации. Они хотят, чтобы Бакмастер опубликовался первым, а затем дать Бакмастеру совместное признание за Милл[...]