필즈상 수상자 25명, AI 기업의 수학 문제 풀이 경쟁이 수학을 파괴한다고 선언

수학자로서 나는 이 선언보다 조금 더 낙관적일지도 모르겠다.

나는 모치즈키의 abc 추측을 떠올린다. 그는 상대적으로 고립된 상태에서 연구했고, 이해하기 힘든 거대한 증명을 학계에 던져버렸다(지나치게 단순화하자면). 이는 AI가 예를 들어 RH(리만 가설)의 거대하고 이해 불가능한 증명을 생성할 경우 일어날 수 있는 일과 완전히 다르지는 않다.

그래서 결과가 어땠는가? 모치즈키의 경우에는 많은 회의론이 있었지만, 동시에 학회, 논문, 복도에서의 대화, 학생들과의 토론 등이 생겨났다. 바로 선언문이 수학의 주요 원동력이라고 말하는 그런 종류의 공동체 과정이 쏟아져 나온 것이다.

결국 우리는 모치즈키의 증명에서 치명적인 결함이 발견되었다고 생각하므로, 그것은 특별히 어디로도 이어지지 않았다. 하지만 가상의 "AI가 Lean으로 검증한 RH 증명" 상황에서는 아마도 모치즈키 사례에서 보았던 그런 공동체 활동이 훨씬 더 많이 생겨날 것이다. 그리고 그것이 맞다면, 그 공동체 활동은 생산적일 것이다(설명 강연, 학생들에게 주어지는 문제 확장 또는 일반화 등).

어쩌면 수학은 다른 분야처럼 조금 더 변할지도 모른다. 계산을 위해 많은 돈을 가진 연구소에 의존하고, AI가 생성한 증명의 코퍼스를 뒤지는 식으로.

내가 보기에는 AI가 파괴한 것은 수학자들이 이해를 발전시키고 서로 공유하는 능력이 아니라, 그들이 그 이해에 얼마나 기여했는지를 측정하는 데 전통적으로 사용되어 온 잣대(미해결 문제 해결)인 것 같다.

공로를 배분하는 측면에서 이것이 문제라는 점은 알겠지만, 이런 모델들이 유능하다는 점에서 이미 주사위는 던져졌다고 생각한다. AI 연구소들이 밀레니엄 문제를 해결하기 위해 수백만 달러를 쓰지 않더라도, 이를 이용해 쉬운 성과를 따먹을 사람들은 얼마든지 있다. 어떤 사회적 해결책도 상황을 예전처럼 되돌릴 수는 없을 것이다. 예전에는 유명한 미해결 문제에 대한 진전을 공유해도 며칠 안에 누군가가 가로챌 위험이 없었지만 말이다.

가장 가능성 높은 결과는 수학이 더 비밀스러워지거나, 누가 어떤 문제를 "먼저" 해결했는지보다 더 숙의적인 공로 배분 방식이 생기는 것이라고 본다. 전자의 경우 진전이 느려질 수 있고, 후자의 경우 공로가 더 주관적이 되어 끊임없는 논란의 원천이 될 수 있다.

수학 분야에서의 AI에 대한 Tao의 비판은 19세기 프랑스 예술 비평가 Charles Baudelaire가 사진에 대해 했던 말을 떠올리게 한다[0].

Baudelaire는 사진이 실패한 화가들, 즉 제대로 된 훈련을 마치지 못한 삼류 화가들의 피난처가 되었다고 주장했다. 세계를 기계적으로 재현하는 사진은 이미 존재하는 것만 기록할 수 있을 뿐, 그림처럼 현실을 변형할 수는 없다는 것이다.

그는 또한 대중이 사진에 "몰려드는" 열풍을 비판했고, 이러한 기술적 "진보"가 예술을 약화시킨다고 불평했다.

여러분도 유사점이 보이는가?

[0] https://fr.wikisource.org/wiki/Curiosit%C3%A9s_esth%C3%A9tiq...

내게는 90년대에 컴퓨터가 체스를 파괴한다고 불평하던 사람들 이야기처럼 들린다. 30년 후, 체스는 그 어느 때보다 인기가 많고, 체스 선수들은 그 어느 때보다 실력이 좋다. 지금은 체스 책이 그 어느 때보다 많을 것이라고 해도 놀랍지 않다. 게다가 컴퓨터 이전에 쓰인 많은 체스 책들이 많은 부분에서 그냥 틀렸다는 것이 밝혀졌다. 설명이 없더라도 체스의 "정답"에 대한 오라클을 제대로 활용하면 인간이 더 넓고 정확한 통찰을 개발할 수 있다는 것이 드러났다.

여기서의 논조도 비슷하게 들린다. 이 성명이 말하는 바를 이해하자면, 100페이지짜리 Lean 증명 형태로 정답을 받으면 인간이 수학 자체의 구조에 대한 통찰을 형성할 기회를 빼앗긴다는 두려움이다. 나는 인간이 100페이지짜리 Lean 증명을 더 다루기 쉬운 것으로 소화하려고 노력하면서 통찰을 계속 발전시킬 수 없는 이유를 전혀 모르겠다. 오히려 더 확실하고 헛발질이 적으면서 말이다.

> 우리는 지적 작업에 대한 전반적인 위협을 목격하고 있다

이것이 핵심이며 수학이나 컴퓨터 과학을 훨씬 뛰어넘는다. 인간 무리를 움직이려면 동기를 부여해야 한다. Kleos와 Timē, 즉 명성과 명예 같은 것 말이다. 이 AI 기업들은 자신들을 제외한 모든 사람에게서 이것을 빼앗으려 위협하고 있으며, 최근의 밀레니엄 상이 완벽한 예시다.

인간으로서 이 문제를 해결했다면 엄청난 Kleos를 얻었을 것이다. 내 이름이 수학 연대기에 기록되고, 평생 강연 순회와 찬사를 누렸을 것이다. 이 한 번의 승리로 역사에 길이 남을 인정을 받았을 것이다. 필멸자가 바랄 수 있는 최고의 것. 빼앗겼다.

또한 큰 Timē도 주었을 것이다. 상금, 교수직, 책 계약. 사라졌다.

지적 영역에서 "명성과 그런 것들"에 대한 모든 희망을 이제 AI 기업들이 가져간다면, 그들은 이러한 추구에 대한 모든 인간의 동기를 제거할 것이다.

어쩌면 영광은 이 무서운 짐승들을 죽이는 데서 올지도 모른다.

> 문제 해결은 개념적 이해와 통찰이라는 주요 목표를 달성하기 위한 도구이자 대리 지표일 뿐이다.

이것이 대부분의 지적 분야에 대한 AI의 영향이며, 진짜 걱정거리다.

솔직히 여기서 그렇게 많은 분노는 느끼지 못했다: https://news.ycombinator.com/item?id=49662116

여기서 많은 문제는 이 문제들이 그 자체로 흥미로운 게 아니라 흥미로운 길로 이어진다는 점인 것 같다. 실질적인 이해 없이 해결하면 목적이 무색해진다.

이는 와플 메이커로 "팬케이크 뒤집기" 문제를 해결했다고 말하거나, 줌 회의로 "외판원 문제"를 해결했다고 말하는 것과 비슷하다.

이 편지는 인간의 이해가 수학 발전에 결정적이었는데 AI 기업들이 그것을 신경 쓰지 않는다고 불평한다. 하지만 AI 수학의 약속(그리고 공포)은 그것이 성공하면 인간의 이해가 무관해진다는 것이다. 그게 목표다. 그래서 이 편지의 메시지는 귀에 들어오지 않을 것이다.

AI 기업 직원들이 인간 멸종 확률 10% 이상을 감수하고 있다고 공개적으로 말하고 있다는 점을 명심하라. 그들은 모든 남자, 여자, 아이의 생명을, 자기 아들딸의 생명을 알면서도 위험에 빠뜨리며 작업을 계속하고 있다. 이미 그렇게 합리화하는 사람은 수학자들의 경력에 눈물을 흘리지 않을 것이다. 그저 앞유리에 붙은 벌레일 뿐이다.

나는 이 입장과 그들이 어디서 오는지 이해하지만, AI 지원 및 바이브 코딩에 반대하는 엔지니어들의 주장, 특히 인지적 부채와 관련하여 매우 유사하게 들린다는 생각을 지울 수 없다. 그런데도 소프트웨어 업계는 검토되지 않은 코드를 산더미처럼 프로덕션에 밀어 넣으며 나아가고 있고, 세상은 끝나지 않았다.

물론 아무도 편안해하지 않으므로, 이것은 업계가 복잡성과 신뢰를 관리할 새로운 기법을 적응하고 찾아내도록 하는 강제적 요인이다. 수학에서도 같은 일이 일어날 것이라고 생각한다.

하지만 우리가 결국 세 가지 형태의 수학으로 끝날 가능성도 있다. 우리가 이해하는 수학, 우리가 이해하지 못하는 수학, 그리고 우리는 이해하지 못하지만 작동함을 증명할 수 있는 수학. 마법과 비슷하다. 그 단어가 지닌 긍정적, 부정적 함의를 모두 지니고서.

이 모델들이 곧 우리의 인지 능력을 초월할 것이 분명하다. 우리가 따라가지 못한다고 해서 이들을 억제하는 것이 옳은가? 많은 발견은 우리를 너무 뛰어넘어서 우리가 아무것도 할 수 없겠지만, 그것은 또한 우리를 해칠 수 없다는 뜻이기도 하다. 반면에 우리가 이해하지 못하더라도 실용적으로 유용한 응용으로 활용할 수 있는 발견도 많을 수 있다.

LLM처럼 말이다.