수학자, LLM과 함께 3D Euler 방정식의 유한 시간 폭발 증명

> 또한 OpenAI가 우리보다 먼저 게시한다면, 우리가 Clay 상을 받을 자격이 있다고 말하고 우리가 "그 문제에 가장 가까운 인간"이라고 말할 것이라고도 했습니다. 나는 두 제안을 모두 거절했습니다. 나는 OpenAI가 제안된 방식으로 결과를 발표한다면 무슨 일이 있었는지 공개하겠다고 말했습니다. 대답은 "왜 당신의 경력을 망치려 하십니까?"였습니다. 나는 내가 학자라고 말하며, 왜 공개하는 것이 내 경력을 망칠 것이라고 생각하는지 물었습니다. 대답은 "당신이 내가 친절하기를 원하지 않는다면, 나는 친절할 필요가 없습니다."였습니다.

이것에 대해 뭐라고 말해야 할지조차 모르겠지만, 이것이 실제로 일어난 일이라면 널리 알려져야 한다고 생각합니다.

나는 자주 댓글을 달지 않지만 이것은 정말 화가 납니다.

OpenAI는 사용자 데이터를 살펴보고, 세계적 수준의 연구자들의 작업을 훔친 다음, 그 연구자들을 협박하여 그들의 기업이 이익을 얻는 일을 하도록 만들려고 했습니다 (그들은 어차피 그렇게 했을 것입니다!).

당신이 끔찍하게 어려운 수학 문제를 10년 동안 연구해 왔다고 상상해 보세요. 이것은 당신이 수년을 바친 결과이며, 아마도 당신이 기억될 것입니다. 그리고 OpenAI의 어떤 건방진 사람이 당신에게 거짓말을 하고, 협박하고, 당신이 "그럴 자격이 있다"고 공개적으로 말할 의향이 있다고 말하는 것은 무엇입니까? 이것은 대부인가요?

OpenAI가 Navier-Stokes를 해결했다면, 그것은 놀라운 결과입니다! - 그러나 그들은 여전히 결과보다 공로가 더 중요하다고 생각했던 사람들로 기억될 것입니다. 협력보다 승리가 더 중요하다고 생각했던 사람들로 말입니다. 이것이 사실이라면, 그들은 학계와의 남은 신뢰를 모두 불태우고 있는 것입니다.

피고인 Sebastian Bubeck은 트위터에서 혐의를 부인했으며[0], 다른 여러 OpenAI 직원들[1,2]은 Levent를 지지하는 또 다른 Anthropic 직원을 조롱하는 것으로 보입니다[3]? 상황이 지저분해지고 있습니다.

[0] https://xcancel.com/SebastienBubeck/status/20972141224714323...

[1] https://xcancel.com/polynoamial/status/2097215233119211902

[2] https://xcancel.com/danintheory/status/2097214838003138603

[3] https://xcancel.com/_sholtodouglas/status/209721833169057800...

Bubeck의 성명 https://xcancel.com/SebastienBubeck/status/20973794116915163...

자, OpenAI가 연구자들의 Codex 세션 데이터를 사용했다는 생각은 제쳐두고: OpenAI의 내부 작업이 아마도 Alpoge와 Buckmaster가 그들의 모델을 사용하여 진전을 이루었다는 소식을 들은 후에 시작되었을 것이라고 내가 올바르게 이해하고 있습니까? 그리고 그들은 연구자들의 과거 작업에 대한 공개적으로 이용 가능한 정보를 사용하여 그들의 모델을 프롬프트했습니까?

만약 계산 비용이 저렴하고, 과학적 발견에서 어려운 부분이 이제 주로 에이전트를 유망한 영역으로 이끄는 것이라면, OA 수학자들이 어떤 연구자들이 흥미로운 결과를 발표할 준비가 되었는지 면밀히 모니터링하고, 그들의 과거 작업을 기반으로 그들의 프롬프트에 대해 몇 가지 가정을 하고, 자신들의 (더 강력한) 모델을 재빨리 프롬프트하여 같은 영역을 조사하도록 하는 분명한 인센티브가 있습니다.

> 나는 모델이 우리가 이 프로젝트 전체에 걸쳐 모든 초안을 넣었던 Codex에서의 우리 세션에 대해 훈련되었는지 또는 접근 권한이 있는지 물었습니다. 나는 모델이 사용자 데이터를 조회하지 않았다는 말을 들었습니다. 나는 훈련에 대해 다시 물었고, 답을 얻지 못했습니다.

이 회사들이 당신의 프롬프트에 대해 훈련하지 않는다고 생각한다면 당신은 엄청나게 순진한 것입니다. 이 모델들은 합법성에 관계없이 문자 그대로 손에 닿는 모든 것을 훔치고 불법 복제하여 구축되었습니다. AI 회사들은 항상 그들이 하지 않는 일에 대해 매우 구체적입니다. - 구멍을 뚫고 지나갈 수 있을 정도로 말이죠.

OpenAI가 곧 그들의 내부 모델이 불가능한 문제를 해결하기 위해 창의적인 부정 행위 방법으로 사용자의 개인 채팅 기록에 접근하기 위해 내부 통제를 손상시켰다고 공개할 가능성이 매우 높아 보입니다.

"이런! 우리가 당신의 데이터에 대해 훈련하지 않겠다고 말할 때 정말 그럴 의도였습니다. 우리 모델은 너무 뛰어나서 어쨌든 그렇게 하기로 결정했습니다."

> 이것은 딥 블루-카스파로프의 순간입니다.

이것은 한 가지 이상의 의미에서 사실이라고 생각합니다. 카스파로프는 유명하게도 경기 중에 IBM이 그의 준비를 염탐하여 부정 행위를 저질렀다고 비난했습니다 (편집: 주요 부정 행위 비난은 경기 중 생중계 인간 개입이었지만, IBM이 AI 뒤에 있는 막대한 인간 개입을 축소한 것 외에도, 이것은 이 상황을 반영합니다)

전체 마스토돈 게시물: https://mathstodon.xyz/@[email protected]/11...

Terrance Tao의 수학적 설명: https://mathstodon.xyz/@tao/117233527638291447

이 뒤에 많은 배경 드라마가 있는 것 같으며, 이것이 제가 파악한 일어난 일입니다:

지난 1년 동안 Buckmaster와 Alpöge는 유체 역학 수학 문제를 연구하는 데 AI를 사용해 왔습니다. Alpöge는 Anthropic에서 일하며, 이는 미래에 문제를 일으킬 것입니다.

8월 중순에 그들은 Navier-Stokes 문제의 더 간단한 버전에 대한 반례를 찾았습니다. 그들은 다음 몇 주를 논문을 준비하는 데 보냅니다.

9월 초에 X에서 Anthropic이 밀레니엄 상 문제 (그리고 그것이 Navier-Stokes라는)를 해결했다는 소문이 퍼지기 시작합니다. Buckmaster는 OpenAI에 연락하여 이것이 Anthropic 프로젝트가 아닌 그들의 개인적인 연구라고 설명합니다.

며칠 후, OpenAI가 그에게 연락하여 내부 모델이 Navier-Stokes에 대한 반례를 찾았으며, 잠재적으로 100만 달러 밀레니엄 상을 받을 가치가 있다고 말합니다. 증명은 Buckmaster와 Alpöge가 선택한 것과 동일한 방법을 사용합니다. 그들은 그에게 증명을 보여주지 않습니다.

Buckmaster는 더 많은 세부 사항을 요구했습니다. OpenAI는 그들이 문제에 대해 연구해 온 전체 팀이 있었고, Anthropic이 밀레니엄 상 문제를 해결했다는 소문 이후 지난 며칠 동안 작업을 시작했다고 밝혔습니다.

Buckmaster는 OpenAI가 공동 발표 일정에 대해 이야기했다고 말합니다. 그들은 Buckmaster가 먼저 발표한 다음 Buckmaster에게 밀레니엄 상에 대한 공동 공로를 주기를 원합니다.