AI 연구소들, 독점 모델로 수학 문제 테스트 중단해야

> 우리는 그들에게 독점 모델로 고급 수학 문제를 테스트하는 것을 중단하라고 요청한다.

어쩌면 나만 그런지 모르겠지만, 이런 종류의 요청은 왠지 누군가가 숨 쉬는 방식에 대해 간섭하는 것처럼 느껴진다. 그건 수학이다... 숫자와 기호는 그냥 플라톤적 영역에 널려 있어서 누구나 마음대로 다룰 수 있다. 다른 사람들에게 그만두라고 요청하는 건 명백히 터무니없다.

공로를 인정하는 것? 그건 괜찮다. 만약 당신의 모델이 많은 다른 사람들의 노력을 포함한다면, (간접적으로라도) 기여한 모든 사람을 인정해 달라고 요청하는 건 합리적이다. 하지만 그건 요청의 내용이 아니다 — 아마도 그들의 요구는 거대한 텍스트 코퍼스로 훈련되지 않은 모델을 포함한 모든 고급 ML 모델을 포괄할 것이다.

수학적 진보가 사회 발전에 도움이 된다면, 진보는 좋은 것이다.

아니면 수학이 취미에 가깝고, AI가 그들의 재미를 망칠 수 있지만 체스나 바둑 기사들처럼 넘어가야 한다.

AI가 해결한 모든 중요한 매치 문제에 대해, 수학자들이 없었다면 우리는 그 문제의 존재와 중요성조차 알지 못했을 것이다.

유명한 수학적 추측은 수학계 구성원들이 수십 년, 심지어 수백 년 동안 관심을 기울여 형성된 사회적 구성물이다. 그것이 없다면, 미래의 수학 '진보'는 Lean 문장 테이블과 AI가 생성한 개연적/증명 불가능한 비트를 생성하는 것으로 전락할 위험이 있다.

AI 기업에 대한 답변으로서 이건 정말 형편없다: 어느 정도 트레이드오프가 있는 윈-윈에 가까운 해결책을 찾으려 하기보다는, 이건 말한다: 미안하지만 우리는 어떤 방법도 생각해낼 수 없으니 그냥 돈 버는 걸 그만둬 주시겠어요? 수학에는 더 나은 위기 관리자가 필요하다.

하지만 아이디어로서 이건 더 나쁘다: 일부 수학자의 이해관계에 닿을 수 있는 한 핵융합, 암, 그 어떤 것에 대한 잠재적 연구를 중단하라는 건가, 아니면 수학이 너무나 절망적으로 무관해서 그럴 수 없다는 건가... 다시 말하지만, 위기 관리자로서 이건 이렇게 제기할 문제가 아니다.

Sam이 사보타주를 위해 고용한 건가 싶다.

나는 Cédric Villani의 인터뷰(프랑스어)를 본 적이 있는데, 그와 다른 필즈 메달리스트들을 대표해서 말하기를 수학을 발전시키기 위해서는 세 가지가 필요하다고 했다:

- 아이디어

- 학생

- 문제

기본적으로 학생들이 기존 문제를 풀기 위해 독창적인 아이디어를 가져오고, 이것이 새로운 아이디어와 어쩌면 새로운 학생들이 새로운 아이디어로 풀어볼 새로운 문제를 낳고, 이런 식으로 이어진다는 것이다.

그리고 그는 계속해서 수학에서 LLM의 문제는 그들이 문제를 다 소진해버릴까 봐 두렵다는 것, 그래서 학생들이 시도조차 하지 않게 되어 수학 전체에 대한 이해를 해칠 수 있다는 점이라고 말했다.

전혀 내 분야가 아니라서 어떻게 생각해야 할지 모르겠지만 중요한 것 같다.

이 논문은 AI 기업들이 인간 수학자들에게 AI가 생성한 것을 이해할 수 있도록 돈을 지불하라고 요청한다.

그건 특이한 요구다.

> 그러나 이제 AI는 그것을 프롬프트한 인간이 그 논증을 이해하거나, 검증하거나, 책임질 수 없는 상황에서도 수학적 논증을 출력할 수 있게 되었다.

나는 이것을 "누구나 프롬프트할 수 있지만, 이해할 수 있는 사람은 거의 없다"라고 읽는다. 그리고 "이해할 수 있는 사람이 더 필요하다"라고도. (오늘날보다) 더 많은 수학자가 있어서 그들 모두가 고급 모델을 조종한다면 파이가 커질 것이다. 문제는 AI 능력이 그런 수학자들을 길러낼 교육 파이프라인을 (동기를 약화시켜) 고갈시키고 있으며, AI가 교육에 미치는 영향에 대한 최근 소문이 사실이라면, 학생들이 대학원에 가기도 몇 년 전부터 그렇게 한다는 점이다.

내 생각에는 그렇게 나쁘지 않다. 버틀러리안 지하드 이후 선형대수를 이해하는 인간이 아무도 없는 건 승리다 :-) .