OpenAI의 수학 정복에 수학자들이 우는 이유

어느 정도 공감은 가지만 나는 다른 것을 애도하고 있는 것 같다: 기술, 수학 등에서 진리를 추구하려는 욕망의 상실.

이제 아무것도 검증되거나 테스트되지 않는다. 모든 것은 형태나 믿을 만함, 심지어 얼마나 큰 소리로 말하는지에 달려 있다.

그들은 아무도 읽지 않은 100편 이상의 논문을 쏟아냈다. 수학자들이 지금 그것들을 읽고 있을 거라고 확신하지만, 이 포럼조차 읽거나 검증하지 않고 이 문제들이 해결되었다고 결론지었다.

마치 모두가 '인터넷에서 읽은 모든 것을 믿지 말라'는 말을 잊은 것 같다. 그리고 모두가 검증되지 않은 주장을 쏟아내고, 마찬가지로 검증되지 않은 주장에 기반한 강한 믿음을 덧씌우는 토론은 매우 지루하다. 따분하고, 실속 없고, 순전한 소음일 뿐이다.

> "Google Translate는 놀랍지만, 본질적으로 언어학에 대해 가르쳐준 것은 아무것도 없습니다,"라고 Strogatz는 말했다. "우리는 그것이 왜 작동하는지 이해하지 못합니다. 그냥 작동할 뿐입니다. 그게 바로 Twilight Zone입니다. 이해 없는 지식이죠."

이것은 사실이 아니며, 지금 많은 분야에서 벌어지고 있는 거대한 논쟁의 핵심이다.

고전적인 촘스키 구문론(문장을 구문 트리로 모델링하는)은 실제 인간 언어의 풍부한 구조를 놀랍도록 잘 예측해왔다. 하지만 우리는 '단어'나 '명사구' 같은 개념을 인간 언어에 대해 분석하고 예측하기 위해 특별히 발명했다는 사실을 쉽게 잊는다. LLM과 현대 기계 번역이 확실히 보여주는 것은 이러한 현상을 설명하는 또 다른 완전히 별개의 방식이 있다는 것이며, 그것은 훨씬 덜 서술적이면서도 훨씬 더 예측적이다.

이 둘이 상충하는 것처럼 보이는 것은 유감이지만, 우리가 "왜 작동하는지 이해하지 못한다"는 것은 아니다. 우리는 왜 작동하는지 절대적으로 이해한다. 이해하지 못했다면 이 시스템을 개선할 수 없었을 것이다. 우리에게 없는 것은 이것을 형식적으로 명세하고 분석할 수 있는 무언가로 정리하는 깔끔하고 서술적인 이론이다. 하지만 그것들은 다른 것이며, 이것이 이 공간 안팎에서 일하는 많은 커뮤니티(언어학자 대 컴퓨터 언어학자, 수학자 대 계산 수학자, 기계 해석 연구자 대 경험주의자) 사이의 단절의 근원이다.

이 글은 이름을 붙이지 않은 채 로버트 브랜덤의 의미론 작업의 핵심인 "의무적 점수 기록" 개념을 맴돌고 있다. 우리가 개념 체계를 만들고 유지하는 능력은 사회적 환경 내에서 이유를 주고받는 것에 달려 있다는 생각이다. 브랜덤이 최근 내 머릿속에 맴도는 이유는 그의 이론의 요소들이 LLM이 원칙적으로 왜 작동해야 하는지, 그리고 어디에서 근본적으로 결핍될 수밖에 없는지를 모두 설명하기 때문이다. LLM은 우리 언어/개념 게임의 규범적 규칙성을 가중치에 인코딩하지만, 지속적인 약속을 걸거나 시간이 지남에 따라 성향을 바꿀 수 없기 때문에 우리 게임의 진정한 참여자가 될 수 없다.

읽어볼 만한 책: 로버트 브랜덤, "Making It Explicit: Reasoning, Representing, and Discursive Commitment"

나는 톰슨이 순수 수학이나 이론 과학 같은 분야를 전혀 이해하지 못한다고 생각한다. 아인슈타인의 말을 빌리자면, "나는 신이 이 세상을 어떻게 창조했는지 알고 싶다. 나는 이런저런 현상, 이런저런 원소의 스펙트럼에는 관심이 없다. 나는 그의 생각을 알고 싶다. 나머지는 그저 세부 사항일 뿐이다."

수학자들은 잃어버린 매몰 비용을 한탄하는 게 아니라고 본다. 그들은 이제 무지의 장막 가장자리를 처음으로 들어 올려 그 아래의 날것의 진실을 _처음으로_ 볼 기쁨을 다시는 누리지 못할 수도 있다는 것을 깨닫고 있다. 삶에 의미를 부여하는 그들의 발견 항해는 다시는 부두를 떠나지 못할지도 모른다.

나는 수학자들이 여전히 그 어느 때보다 중요할 것이라고 생각한다. LLM은 단지 문제를 무차별 대입으로 해결한 후 우리의 현재 지식 범위 내에서 기술적으로 가능한 것만 찾아내고 있다. 결국 훈련으로 할 수 있는 일이 바닥나고, 더 많은 것을 하게 하려면 인간이 새로 발견한 지식으로 훈련시키는 수밖에 없을 것이다.

그 새로운 지식을 찾는 것은 기하급수적으로 더 어려울 수 있지만, 훨씬 더 가치 있을 것이다.

이해 없는 지식은 그냥 "42"를 얻고 후속 질문을 할 수 없는 것과 같을 것이다.

하지만 나는 현재 우리가 그 지점에 있다고 생각하지 않는다. 나는 결과, 증명, 논문이 인간 동료가 또 다른 결과를 발표했을 때처럼 검토되고 이해될 수 있다고 믿는다.

또한 결과가 생성될 수 있는 속도를 우리가 익숙한 방법으로 이해하는 집단적 속도가 따라가지 못한다고 생각한다.

AI가 대부분 다른 AI 결과를 참조하여 발표하는 다음 단계로 접어들면, 이는 기하급수적으로 증폭되어 인간이 단일 결과를 처음부터 끝까지 손으로 검증하는 데 수십 년이 걸릴 것이다.

나는 구절을 번역하는 것이 언어를 가르쳐주지 않는다는 데 동의하며, 번역기가 새로운 언어를 배울 때 매우 유용한 필수 도구라고도 믿는다.

그러니 포기하지 말고, 우리의 이해와 검증 과정을 개선하고 돕는 방법을 개발하고 적응시킬 수 있지 않을까?

소프트웨어 엔지니어로서 이 수학자들이 안타깝게 느껴지지 않는다. 소프트웨어 엔지니어들은 AI의 발전 때문에 해고되고 있다. 수학 연구자들은 대학에 고용되어 있고, OpenAI가 그들의 퍼즐 몇 개를 해결했다고 해서 대학이 수학자들을 해고하지는 않는다. 수학자들은 여전히 가족을 부양할 수 있지만, AI로 인해 밀려난 소프트웨어 엔지니어들은 그럴 수 없다. 그런데도 수학자들의 곤경에 대한 블로그는 훨씬 더 많이 보이고, 소프트웨어 엔지니어들의 곤경에 대한 글은 충분하지 않다.

나는 사람들이 기계보다 열등함에도 불구하고 인간의 성과를 존중하는 능력을 크게 과소평가한다고 생각한다. 체스 선수 대 스톡피시, 마라톤 선수 대 자동차 등을 생각해보라.

핵심은 훨씬 더 평범한 것 같다, 기사에 묻혀 있듯이.

> 나는 또한 GPU 덩어리에게 내 직업을 빼앗기고 싶지 않다.

GPT식으로 말하자면, 지식이나 지위의 문제가 아니라 직업과 돈을 지키는 문제에 더 가깝다.

그리고 그것은 정책으로만 답할 수 있고, 내 생각에는 UBI로 답할 수 있다. 그러니 할 수 있다면 투표하고, 아니면 시위하고, 토론하고, 친구, 가족, 지인들과 로비하자.

나는 수학의 과소평가된 부분 중 하나가 다른 사람들이 더 나아가 새로운 통찰을 얻을 수 있도록 깔끔하고 우아한 작업에 기여하는 것이라고 생각한다. OpenAI의 이번 쏟아내기는 그 반대인 것 같다. 거대하고 지저분하며 이해 불가능하고, Lean 덕분에만 진지하게 받아들여진다.

AI가 수학의 더 빠른 진보에 기여할 것이라는 가정이 있지만, 우리가 믿음으로 받아들여야 하는 견고한 증명의 쓰레기 더미를 보면 그 반대가 사실인지 의문이 든다.

내 우려는 AI가 근본적으로 새로운 통찰을 제공하고 새로운 문제를 제기할 수 있다는 것이 밝혀져야만 해소될 수 있다. 이는 AI 발전이 적어도 아주 느린 영역으로 우리를 데려간다.