수학은 황금기가 될까, 암흑기가 될까? LLM이 증명을 대신하는 시대의 선택
Will it be a golden age or a dark age for mathematics (and science)?
Terry Tao의 블로그에 실린 Francesco Maggi의 게스트 글은 LLM이 수학 증명을 생성하는 능력이 실제임을 인정하면서도, 지식이 소수에게 집중되고 인간이 이해할 수 없는 지식이 양산되는 '암흑기' 시나리오를 경고한다. 저자는 수학이 인간 문화의 근본적인 부분이며, 이해 없는 증명은 의미가 없다고 주장한다. 또한 수학화(mathematization)의 중요성, 문제 목록으로 측정할 수 없는 수학의 진보, 저자성과 동료 심사의 필요성을 여덟 가지 논점으로 짚고 실행 가능한 제안으로 마무리한다.
인간이 수학을 이해하지 못한다면, 말 그대로 인간의 수학은 존재하지 않는다. 그것은 인간 문화의 근본적인 부분이다.
HN 토론
170- dualvariable
저는 이 질문에 대해 어느 정도 '황금기' 쪽에 서 있는 것 같습니다.
수학 쓰레기 대폭발(math slopocalypse)은 그것을 실제 인간에게 가르칠 수 있는 수학으로 바꾸고, 그 바탕이 되는 통합 원리를 찾아낼 수 없다면 쓸모가 없습니다.
그 모든 O(n log(n)^(1-delta)) 결과들은 아마 그 뒤에 통합적인 '요령'이 하나 숨어 있고, 어떤 문제든 delta에 상한이 있을 것임을 시사합니다. 여러분은 정말로 그것을 교과서에서 가르칠 수 있어야 하고, 그러면 어떤 인간 학생이든 LLM의 결과를 연습 문제로 재현할 수 있어야 합니다.
LLM이 수천, 수백만 줄의 Lean 코드로 증명해내는 것에는, 어딘가 빠져 있는 수학의 한 분야가 존재할 가능성이 큽니다.
실제 인간은 문제와 LLM이 생성한 해법을 계속 파고들어야 하며, 아마 AI의 도움을 받아 그 바탕 원리를 찾아내야 합니다.
LLM에게 새로운 수학 분야를 발명하고 '실수하지 마'라고 요청하는 것만으로는 아마 거기까지 도달하지 못할 것입니다. LLM을 잘 지휘해 통합 원리를 탐색하게 하고, 그 결과를 종합하고 (재차 검증)하는 데 능숙해진 수학자들은 아마 그 분야에서 매우 성공할 것입니다.
- jacquesm
Tao가 우선 수학자라는 점은 이해하고, 그가 '자기 전문 영역'에 머무른다는 사실도 존중합니다(그는 글을 쓰지 않았지만 자신의 블로그에 올렸습니다). 하지만 이 질문을 수학뿐 아니라 모든 과학에 대해 외삽해 생각해보는 것이 공정할 것 같습니다. 과학적 지식은 축적되거나 특허로 쓰일 수 있고, OpenAI, Anthropic 그리고 어쩌면 다른 회사들이 AI 추론 엔진 접근권 판매 외에 다른 수입원[1]을 노릴 것이라는 증거가 많다는 점을 명심하세요.
이 회사들이 다양한 주제에 걸쳐 특허를 보유하고, 내부 AI가 만들어낸 상호 보강적인 독점 기술 사일로를 갖춘 새로운 자이바쓰(Zaibatsu)[2]가 되는 미래를 상상할 수 있습니다. 그 기술은 나머지 세계가 자금을 댔지만 접근할 수는 없는 것입니다.
[1] 예: https://www.reuters.com/world/anthropic-quietly-sets-up-biol...
- ttul
최근 Terence Tao의 발언에 대한 제 해석은, 전문 수학자들이 주로 AI가 제출한 수학 논문이 고품질 인간 수학 논문이 제공하는 폭넓은 교육적 내용을 결여하고 있다는 점에 불만을 느낀다는 것입니다. 답은 맞을지 몰라도, AI 수학 논문은 인간 저자가 했을 방식으로 독자를 가르치지 않습니다. 전문 수학은 문제 해결만이 아니라, 다른 사람들이 논문 저자가 글을 쓸 때(그리고 결과를 얻었을 때) 가졌던 것과 같은 이해로 자신의 인간 두뇌를 프로그래밍할 수 있도록 지식을 전파하는 것이기도 합니다.
다시 말해, 제가 읽기로 수학의 위기는 AI가 가르치지 않고 해결할 수 있다는 것입니다. 결과는 인상적일 수 있지만, 미래에 수학을 진전시킬 수 있는 유일한 존재가 인간이라면 인내심을 갖고 감당할 수 없는 수십억 가지 시나리오를 갈아 넣는 기계뿐이라면, 이는 업계 종사자들에게 자신의 위치에 대한 의문을 남깁니다.
- itsalwaysgood
모두 훌륭한 지적이지만, '암흑기' 시나리오는 매우 경쟁적인 시나리오이고 '황금기' 시나리오는 매우 협력적인 시나리오라는 점도 지적하고 싶습니다.
어느 시나리오에서도 기술이 꺼지지는 않을 것 같습니다. '암흑기'의 고경쟁 시나리오에서도 '생산된 것을 이해하는' 사람들은 진보와 발전을 추구할 것입니다. 그들은 최고의, 가장 검증된 결과를 생산하는 누구/어느 조직과든 협력할 것입니다.
지식이 인간의 이해와 동떨어지게 되지는 않을 것이며, 과거처럼 다시 고도로 집중될 뿐입니다. 과거에는 부유하고 고귀한 사람들만이 교육에 시간을 쓸 여유가 있었습니다.
그리고 보통 어떤 분야에 깊이 들어가 과학에 기여한 사람들은 지식의 연구나 추구에 평생을 바칠 시간이 있는 사람들이었습니다. 우리는 오늘날에도 이런 문제를 안고 있고, 이 문제는 항상 존재할 것입니다.
경제의 공급망이 있고, 우리는 생산된 가치에 따라 다양한 보상을 제공합니다. 일자리는 사라지지 않고, 명예에 대한 욕구, 탐욕 등도 사라지지 않습니다. 이것이 경제가 존재하는 이유이며, 모두가 LLM의 가치와 경제 및 아카데미아에서의 위치를 고려하는 이유입니다(아카데미아는 아마 인간의 이해/감상을 증진하고, 또한 젊은 세대를 미래 직업에 대비시키기 위해 존재할 것입니다).
- odyssey7
당연히 황금기입니다.
이제는 이 일에 대해 비 bitter하지 않습니다 — 오래전 일이니까요. 하지만 그 이야기에는 뭔가가 있습니다.
예전에 저는 수학에 재능이 있다는 것을 알고 연구 경력을 추구하고 싶었습니다. 1학년 연구 수업에서 일부러 제 안전지대 밖의 문제를 선택했고, 멋진 아이디어 몇 가지를 떠올렸습니다. 출판 수준은 아니었지만, 그 수업은 출판을 기대하지도 않았습니다.
문제를 미적분으로 풀 수 있는 방식으로 정식화하는 것이 핵심 통찰이었습니다. 적분은 1학년인 제가 혼자 할 수 있는 수준을 넘었기 때문에 Wolfram을 사용했고, 해를 낳은 통찰은 제 독창적 작업임을 알고 있었습니다. 수업 중 누구도 그 적분을 할 수 없었을 것입니다. 강사조차 문제가 있다면 무엇인지 말해주지 못했습니다. 그런데도 그는 감명받지 않았고, 미묘하게 무시하거나 비판했습니다.
오늘날이라면 저는 수학 작업을 위한 AI를 개발하는 연구자 물결에 합류했을지도 모릅니다. 강사는 자신의 멘토링으로 수학을 형성한 것을 자랑스러워할 수 있었을 것입니다. 대학은 저를 강연에 초대했을지도 모릅니다. 대신 저는 수학 분야를 완전히 떠나게 되었습니다. 지금은 은행을 위한 소프트웨어를 작성합니다.
세상은 우리가 만드는 만큼 풍요롭습니다. 기회와 잠재력이 만료되도록 두지 마세요. 이용 가능한 재료를 받아들이세요. 그렇지 않으면 다른 누군가가 그것을 받아들이고 여러분을 앞지를 것이며, 여러분은 그 순간을 놓칠 것입니다.
[…]라는 낭만적인 생각이 있다는 것은 이해합니다.
- grandpajoey
저자 표시와 공로는 수학에서 안티패턴인 것 같습니다. 제가 보기에 수학에서 가장 접근하기 어려운 부분 중 하나는 문자 그대로 모든 것에 사람 이름이 붙어 있다는 점입니다. Navier-Stokes? 누구? 솔직히 알고 싶지도 않습니다. 아이디어와 정보가 저자의 명성이 아니라 이해를 우선시하는 방식으로 구성되기를 바랍니다. 그리스 문자 표기에 대해서도 같은 생각입니다. 2026년인데, 더 넓은 청중을 위해 일반적으로 통용되는 것을 쓸 수는 없을까요?
어쩌면 AI가 '클럽' 안에 있는 사람들과 수학적 아이디어로 유용한 일을 하고 싶은 사람들 사이의 간극을 메워 이 상황을 획기적으로 개선할 수 있을지도 모릅니다.
- ldng
AI가 (컴퓨터에게) 쉬운 교차 참조와 추론의 낮은 열매를 거두는 짧은 황금기가 있을 것이라 장담합니다. 그리고 나서는 아무도 새로운 아이디어를 분야에 내놓는 데 관심이 없는 암흑기가 올 것입니다. 제가 틀리기를 바랍니다.
- nestorD
훌륭한 생각들이 많고, 상당수는 수학을 넘어 확장됩니다.
특히 비밀 공유에 관한 것 하나는 제가 미처 생각하지 못했던 것입니다(저는 '내 데이터로 학습하지 마' 상자를 체크하는 사람이 거의 없다는 것을 알게 되었습니다...):
> 마찬가지로, 수학자들은 이미 연구 계획서와 연구 제안서에 쓰는 내용에 대해 우려하고 경계하는 것 같습니다. 결국 관리자나 심사자가 그 문서를 LLM에 업로드해 보고서 작성 도움을 받을 수 있으며, 이는 미공개 연구의 기밀성을 침해할 가능성이 있습니다.