AI가 수학 난제를 풀었다는 주장, 우선권 논란에 휩싸이다

핵심 부분:

> 그러나 커뮤니케이션은 빠르게 논쟁적으로 변했다. Buckmaster에 따르면, OpenAI는 그에게 Navier-Stokes 해법에 대한 단독 저자 자격을 주겠다고 제안했지만, Alpöge의 이름이 작업에서 제거되고 그 문제가 내부 OpenAI 모델에 의해 해결되었다고 write-up에서 인정하는 경우에만 그렇게 하겠다고 했다. Buckmaster는 거부했는데, 부분적으로는 OpenAI의 시스템이 실제로 무엇을 보았는지에 대한 의문에 불편함을 느꼈기 때문이다. 예를 들어, Buckmaster는 회사가 처음에는 그들의 에이전트가 Codex(OpenAI 제품)에 있는 두 사람의 로그에 접근할 수 있었는지에 대해 명확한 답변을 주지 않았다고 말했다.

> OpenAI 경영진은 연구자들이 9월 7일에 공개적으로 발표하기 전에 어떤 직원이나 AI 에이전트도 두 사람의 작업을 보지 않았다고 부인했다. 그러나 여전히 별개의 질문이 남아 있다: 두 사람의 작업이 훈련 데이터를 통해 OpenAI의 모델에 도달했을 수 있었을까?

> Navier-Stokes 해법을 발표한 OpenAI의 블로그는 그 가능성을 일축하지 않는다: “가능성은 낮지만, [Buckmaster와 Alpöge]의 우리 제품 사용에서 파생된 비식별화된 데이터가 우리 모델을 개선하는 데 도움이 되었을 가능성을 배제할 수 없다.”

이 연구자들을 앞지르려 한 것은, 그들이 그들의 기법을 사용하지 않았더라도, 꽤 의심스러운 행동이었다고 생각한다. 그들이 훈련 데이터를 통해 자신도 모르게 그들의 작업을 “빌렸”을 가능성이 있다는 사실은 상황을 훨씬 더 나쁘게 만든다.

여기서 OpenAI의 행동은 — 그들의 이야기만 고려하더라도 — (기껏해야) 품위가 없었다.

전체적인 상황은 다음 PR 승리를 찾아 계속 바람을 넣으려는 수익성 없는 벤처 투자 스타트업의 절박함이 물씬 풍긴다.

하지만 절대적인 공로를 차지하려는 경쟁에서 간과되고 있는 점은 양측이 궁극적으로 LLM(그것도 OpenAI의 것 중 하나)에 의존했다는 것이다. 인간 연구자가 Codex의 도움으로 획기적인 발견을 했거나, 최신 GPT 모델이 인간 훈련 데이터의 도움으로 획기적인 발견을 했거나, 아니면 둘 다 조금씩… 어느 쪽이든 LLM이 빠르게 R&D 워크플로의 필수적인 부분이 되어 연구를 가속하고 있다는 것은 부인할 수 없다.

이것은 어떤 평범한 회사에게도 큰 승리일 것이다. 이 사람과 더 큰 협업을 구축하고, 큰 예산을 주고, 이 예비 결과의 확장을 추진하고, 그 대가로 그가 자신의 워크플로에서 당신의 모델을 어떻게 사용하는지에 대한 글을 쓸 수도 있다. 엄청난 PR 승리다. 이것이 내게 말해주는 것은 그들의 밸류에이션이 너무 천문학적이어서 그것을 정당화할 유일한 방법은 완전 자율적인 발견 봇을 입증하는 것이라고 느낀다는 것이다… 하지만 그것은 결코 아니다.

> “나는 업계가 수학 문제를 해결하기 위해 수백만 달러를 계속 지출할 것이라고 기대하지 않는다. 왜냐하면 거기에는 이익이 없기 때문이다.”라고 Columbia University 수학자 Michael Harris가 Science에 보낸 이메일에서 썼다. 그러나 그는 이렇게 크게 홍보된 성과가 “수학에 극도로 해로울 것”이라고 우려한다. “그것은 의사 결정권자들에게 인간 수학자가 구식이라는 것을 설득하고, 젊은이들에게 수학에 대한 열정에는 미래가 없다는 것을 설득한다.”

LLM은 이런 존재 증명 문제에 특히 적합해 보인다. 현역 수학자들은 여전히 보편적으로 양화된 결과에는 절대적으로 필수적인 것으로 보인다. 예를 들어, 페르마의 마지막 정리가 30년 전에 증명되지 않았다면, LLM이 Andrew Wiles가 문제를 해결하기 위해 수학을 발명한 것과 동등한 작업을 할 수 있었을 것이라고는 강하게 의심한다. P vs NP, 쌍둥이 소수 추측, 심지어 리만 가설(후자가 적어도 하나의 반례를 가지지 않는 한)에 대해서도 비슷한 의문을 가진다.

그리고 분명히 하고 싶다: 나는 이 모델들의 성과를 깎아내리는 것이 아니다. 이것은 놀랍다! 단지 성공의 패턴이 존재 증명이나 반례 찾기에 있다고 생각할 뿐이며, 이는 LLM이 작동하고 훈련되는 방식에 비추어 볼 때 이해가 된다.

OpenAI의 Navier-Stokes 블로그 게시물에 대한 광범위한 논의: https://news.ycombinator.com/item?id=49613262 .

일부 논란도 다루는 Quanta Magazine 기사: https://www.quantamagazine.org/ai-has-solved-one-of-maths-1-...

최종 결과와 상관없이, OpenAI의 행동은 인간 수학자라면 경력을 끝낼 윤리 스캔들이었을 것이다. 이 부분만으로도 경력을 끝낼 수 있다.

> Buckmaster에 따르면, OpenAI는 그에게 Navier-Stokes 해법에 대한 단독 저자 자격을 주겠다고 제안했지만, Alpöge의 이름이 작업에서 제거되고 그 문제가 내부 OpenAI 모델에 의해 해결되었다고 write-up에서 인정하는 경우에만 그렇게 하겠다고 했다.

수학계의 적절한 대응은 좋은 옛날식 배척(shunning)이 아닐까 싶다. 수학자들은 OpenAI의 도구를 원하는 만큼 사용할 수 있지만, 현재 또는 과거에 OpenAI와 관련된 사람은 누구도 평판 좋은 저널에 절대 게재되지 않는다.

참고: 당면한 문제는 존재 문제다. 해에 대한 실제 공식의 실제 구성은 제공되지 않고, 단지 특이 섭동 전개만 제공된다.

요약하자면: 문제는 (외부 구동력을 가진 NS 방정식의) 해가 유한 시간에 폭발하는, 즉 점성 흐름에서도 한 점에서 무한 속도를 나타내는 해를 찾을 수 있는지에 관한 것이다.

해법: xy 방향으로 수축하고 z 방향으로 늘어나는 원형 컬(curl) 앤자츠를 취하고, 이 파동들이 컬 위에서 전파될 때 폭발을 보이는 선형화된 파동을 찾을 수 있는지 본다. 그런 다음 섭동의 고차 항이 T0 특이 시간 전에 정칙임을 증명하면 문제가 해결된다. 외부 힘은 NS 방정식 우변의 나머지일 뿐이다.

그것은 모든 고차 항과 일부 특이 섭동 전개를 다루는 지루한 공식 저글링이다. 대수 시스템에 완벽하게 적합하다. OpenAI는 아마도 공식 작업에 python sympy를 사용했고, 연구자들은 LLM에게 더 높은 수학적 언어로 무엇을 해야 하는지 안내해야 했다.

논문은 여기 있다:

https://cdn.openai.com/pdf/32d9f210-8b73-45e0-91bc-82a30aef8...

chatgpt astra에 업로드하면 그들이 무엇을 하고 왜 작동하는지 설명해 줄 것이다, 재미있게 보라.