Terence Tao: AI가 수학의 증명 희소 시대를 끝내고 있다

나는 신약 발견과 AI 분야에서 일하는데, 그가 암 의학에 대해 한 슬라이드는 그다지 잘 알려져 있지 않다. 우리는 약물이 어떻게 작용하는지에 대한 모델과 서사를 가지고 있지만, 그것들은 매우 불완전하다.

나는 의료 분야의 거의 모든 의사/연구자에게 묻는다: 만약 당신의 환자에게 암 치료 결과를 엄청나게 개선한 AI가 만든 약이 있다면, 아무도 그것이 어떻게 작용하는지 이해하지 못한다는 이유로 처방을 주저하겠는가? 나는 아직 "예, 주저하겠습니다"라는 말을 들어본 적이 없다. 대부분의 사람들은 "효과가 있는 치료를 사람에게 거부하는 것은 잔인할 것"이라고 말한다.

나는 Tao가 AI가 수학과 다른 분야에 미치는 2차 효과에 너무 집중하고 있다고 생각한다. 인간은 2차 효과에 대해 추론하는 데 형편없다, 특히 세계가 아직 만들어낸 가장 진보된 수학적 모델을 사용하여 실시간으로 역동적으로 일어나는 효과에 대해서는 더욱 그렇다.

> 이 칵테일을 당신의 혈류에 주입하기 전에, 이 치료법의 메커니즘을 이해하는 적어도 한 명의 인간 암 연구자가 있다는 것을 알고 싶겠습니까?

Tao는 자기 분야를 벗어났다. 많은 약물이 이해된 메커니즘을 가지고 있지 않다. 우리는 심지어 전신 마취의 메커니즘조차 확실히 밝혀내지 못했다. 의사들이 종양을 제거하기 위해 당신을 절개할 때 그것을 포기하겠는가?

슬라이드 12와 13은 10월 8일 100개 이상의 반응과 100개 이상의 해결책에서 내린 나의 결론을 요약한다. 여러 사람이 OpenAI 드롭에 포함된 답변이 수년간 연구해온 문제들을 마무리했다고 보고했다. 여러 사람은 방금 제출한 보조금 신청서를 완전히 다시 작성해야 한다고 말했다. 다른 사람들은 연구하던 문제의 해결책을 알게 된 것을 오랜 친구나 연인을 잃는 것처럼 묘사했다. 일반적인 정서는 한 분야의 상실을 한탄하는 것이었고, 마치 20세기 초에 태어나 이 지점에 도달하기 전에 경력 궤적을 마무리했더라면 더 좋았을 것이라는 듯했다. 나의 결론은, 이 분야가 자신들의 옛 문제들이 더 이상 야심차지 않다는 것을 머릿속에 새겨야 하고, 단기적으로 그들의 임무는 새로운 frontier를 찾는 것이라는 점이다.

Terrance Tao가 추측하는 한 가지 아이디어, 즉 AI 버튼을 마구 누르면 통찰력 있는 새로운 방법을 만들어내지 않고도 미해결 문제를 해결할 것이라는 생각은 매우 의심스럽다. 그러나 OpenAI 드롭은 이것을 반증하는 것으로 보인다. 예를 들어 DFT에 대한 sub O(nlogn) 증명은 매우 오래된 인간의 가정을 위반했다. 이 분야에서 수십 년의 작업은 아무도 충분히 의문을 제기하지 않은 차선의 방법에 대한 점진적 진전이었다. 더 일반적으로, 우리는 항상 초인적인 AI에게 돌아가서 "이 문제를 공격하되, 이전에 시도된 방법을 사용하지 마라"라고 말할 수 있어야 한다.

나는 방금 이것에 대한 Primeagen의 비디오를 봤는데, Tao의 요점은 주니어들이 더 이상 필즈 메달을 따기 위해 증명을 해결하는 경로를 가지고 있지 않다는 것이다. 그는 또한 AI가 증명을 발견함으로써 커뮤니티 부분이 피해를 입고 있다고 주장한다. 과거에는 사람들이 강연과 협업에 초대받곤 했기 때문이다. 이제 그 모든 것이 빼앗기고 있다. 판도라의 상자는 닫을 수 없으므로 커뮤니티는 적응해야 한다.

Prime은 또한 소프트웨어 개발은 다르다고 언급했다. 소프트웨어 개발에서는 제품이 목표이므로, 거기에 도달하는 수단이 혼란을 겪어도 산업이 잠식되지는 않는다.

수학 연구에서는 과정이 곧 제품이다. 연구하는 부분을 빼앗으면 남는 것이 별로 없다. 하지만 내 질문은, OpenAI가 공개한 이 수학 증명들, 수학은 단지 새로운 증명을 찾는 대신 실제로 그 증명을 사용해 세상을 바꾸는 쪽으로 전환할 것인가?

> AI를 사용하여 단순히 새로운 증명이 아니라 새로운 원리, 방법, 통찰을 찾아내고 강조하는 것.

나는 AI가 새로운 증명을 만들어냄으로써 기존 원리를 검증했거나 새로운 원리를 발견한 것이라고 가정했을 것이다. 그것은 연구할 가치가 있지 않은가?

수학자들은 AI의 증명을 검토하는 것이 자신의 증명을 쓰는 것만큼 재미없다고 불평하는 것인가? 프로그래머가 되어보라... 우리 세계에 오신 것을 환영한다!

만약 AI가 상상력이 부족하고 새로운 원리를 발견하지 못한다면, 그것은 우리에게 호의를 베푸는 것이다. 새로운 원리가 필요 없는 문제들을 지워주는 것이니까. 따라서 여전히 남아 있는 문제/추측이 더 흥미로운 것들이다.

암 질문은 제쳐두고: 나는 여전히 TT가 왜 내일의 모델이 아니라 오늘의 모델이 할 수 있는 것에 집착하는지 이해하지 못한다. 모델이 증명을 설명하고 제시하는 것도 더 잘하게 될 것이라고 보는 것은 현실적이고 심지어 상상 가능하다. 어쩌면 그는 자신의 (그리고 어느 정도는 나의) 기술이 관련성 있고 가치 있게 여겨지는 미래가 없을지도 모른다는 것을 감정적으로 받아들일 준비가 안 되어 있는 것일지도 모른다. 그것은 내 마음을 아프게 한다. 내가 틀렸기를 바라지만, 우리가 도망칠 더 높은 지대가 바닥난 것처럼 느껴진다.

슬라이드 '문제 해결을 넘어서'에서:

"자동화된 도구로 이러한 등대[미해결 문제의 해결]에 조기에 도달하는 것은 선택되지 않은 경로의 탐구를 방해하고, 주변 분야를 불임화할 수 있다."

이 중요한 문제는 수학자의 심리와 전 세계 학계/제도적 수학의 인센티브 구조에 중심을 두고 있다. 수학이 앞으로 번성하려면, 우리는 수학적 진보의 본질에 대해 다르게 생각하도록 두뇌를 재정렬해야 한다. 그리고 우리는 더 이상 충실하지 않은 대리 지표를 목표로 삼는 것이 아니라 의미 있는 수학적 진보 자체를 촉진하는 쪽으로 제도적 인센티브 구조를 재정향해야 한다.

Tao가 언급한 "불임화"의 정확한 성격이나 원인과 관계없이, 우리(수학 커뮤니티)는 그것을 고치기 위해 우리 자신에게만 의지할 수 있다. 다만, 그것은 많은 이해관계자와 상이한 기득권을 가진 경직된 학술 기관 수준에서의 근본적 변화를 수반하므로, 그러한 수리는 느리고 답답하며 논란이 많고 성공 보장이 없을 것이다.