Terence Tao, AI의 수학 문제 대량 수확에 경고하다
Terence Tao Responds to the OpenAI Math Drop
Terence Tao는 AI가 수학 문제를 대규모로 해결하면서 전통적인 'Math 1.0'의 생태계가 파괴되고 있다고 지적한다. AI 프롬프터들이 문제를 해결한 뒤에도 분야에 대한 이해 없이 다음 문제로 넘어가면서, 세미나·워크숍·협업이 줄고 중요한 미해결 문제들이 '스쿱' 우려로 공개되지 않는다. 그는 'Math 2.0'에서는 문제 해결 자체보다 설명과 커뮤니티 구축, 새로운 방향 개척을 중시해야 한다고 주장한다.
해결된 문제는 다시 '미해결'로 되돌릴 수 없으며, 해결책이 존재한다는 사실만으로도 인간과 AI 모두가 추가적인 통찰을 드러내는 대안 경로를 찾는 노력이 '오염'된다.
HN 토론
570- bsenftner
"수학"의 미래는 단순히 문제를 푸는 것이 아니라, 무엇을 풀었는지, 그리고 그 풀이가 왜 중요한지를 전달하는 것이다. 학문으로서의 "수학"은 항상 절반만 만들어진 상태였다. 그들은 스스로 설명하는 것을 마치 자기들 수준에 못 미치는 일인 양 포기해버렸다. 이제 "마침내 완성된 수학 1.0"에서는 그들이 한 일을 나머지 우리에게 설명하게 될 것이다. 설명하지 못한다면, 정말로 거기 있는 게 아니다.
- shubhamjain
아주 균형 잡힌 시각이고, 그가 제기하는 우려는 타당하다. 그는 AI가 수학을 변화시킬 것임을 인정하지만, 증명을 수학계에 그냥 던져놓고 다른 사람들이 검증하고, 다듬고, 확장하는 잡일을 해주기를 기대하는 것은 이 분야를 발전시키는 생산적인 방법이 아니라고 본다.
수학에 진정으로 기여하는 것보다는 (우리가 X개의 미해결 문제를 풀었다) 같은 임의의 벤치마크를 찍는 데 더 관심이 있는 듯하다. 하지만 뭘 기대할 수 있겠나? 돈이 너무 많이 걸린 광적인 경쟁이 되어버렸다. 지수 곡선이 여전히 유지되고 있음을 증명하는 데 너무 많은 노력이 투입되고 있다.
- j-pb
증명의 저자들은 많은 강연에 초대되어 그 분야의 다른 전문가들을 만난다. 워크숍이 열려 그 증명과 다른 최근 발전들을 논의한다.
문제들은 초기 목표가 "해결"되면 더 넓은 분야 자체에는 관심이 없는 AI 프롬프터들에 의해 자율적으로 해결되고 있으며, 그들은 AI 출력을 충분히 이해하지 못해 결과에 대한 질문에 답할 수 없다.
여기서 가치 있는 것은 증명의 저자가 얻은 통찰력, 그들이 걸어간 경로, 그리고 어쩌면 더 중요하게는 걸어가지 않은 경로일 것이다.
논문에 대한 강연에 인간 프롬프터만 초대하는 것은 실제 저자의 부서장이나 매니저만 초대하는 것과 같다. Tao가 결핍을 느끼는 가치 있는 부분은 통찰력이며, 그것은 원래 증명을 개발한 모든 맥락을 지닌 에이전트 무리와 대화해야만 얻을 수 있다.
그래서 내게는 Math 2.0이 아니라 Authorship 2.0이 필요한 것처럼 느껴진다. 나는 이 증명들을 생성한 맥락을 "만나고" 싶다. 다행히도 이것들은 SAT 솔버 같은 얼굴 없는 시스템이 생성한 게 아니니 실제로 대화할 수 있다. 하지만 우리가 자존심을 넘어 이 증명들의 진정한 저자들에게 그 인정을 해줄 수 있을지는 모르겠다.
- lifeisloving
소프트웨어도 마찬가지다. 새로운 프로젝트를 만드는 것을 포기하고 다른 사람들의 아이디어를 가져다 Rust로 포팅하는 대신, AI를 받아들여 소프트웨어와 컴퓨터를 더 멀리 밀어붙일 수 있다.
어떻게 될지는 모르겠지만, 그저 할 수 있다는 이유만으로 에이전트를 코드베이스에 밀어 넣는 현재의 패러다임은 소프트웨어 구축을 엄청나게 지루하게 만들고 창의적인 사람들을 이 분야에서 떠나게 하며 진보를 정체시킬 것이라고 확신한다.
내 예측은 소프트웨어가 지루해지고, 하드웨어 프로젝트 구축이 컴퓨팅을 더 밀어붙이려는 창의적인 엔지니어들에게 새로운 개척지가 될 것이라는 것이다. 아마도 좋은 일이다.
- Rapzid
문제를 푸는 대신 사람들은 해법을 풀게 될 것이다.
- enum
진짜 질문은 어떻게 하면 선수를 빼앗기거나 하룻밤 사이에 무의미해질 가능성이 낮은, 신뢰할 만한 3~5년 연구 계획을 세울 수 있느냐이다.
3~5년은 그랜트의 기간이고, 그랜트는 연구 진전을 만들어야 한다. 그렇지 않으면 다음 그랜트를 받지 못한다.
- devolving-dev
애초에 우리는 왜 수학을 하고 있었나? 수학 문제들이 풀리고 있다는 사실에 기뻐해야 한다. 아마도 그것들은 과학 등 다른 문제들의 걸림돌이었을 테니까. 하지만 수학은 정말로 일종의 정신적 요가 같은, 깨달음을 추구하는 것에 더 가까웠던 것 같다. 그렇다면 우리는 AI 증명을 무시하고 계속 나아가면 되지 않을까?
- AlexAplin
>해법이 존재한다는 사실만으로도 추가적인 통찰을 드러내는 대안 경로를 찾으려는 인간과 AI의 노력이 "오염"된다
이것은 커리어주의에만 국한되지 않고 모든 분야에서 볼 수 있는 속 쓰림을 정말 잘 표현한다. 나는 디컴파일과 팬 번역 분야에 친구들이 있는데, 그곳에서 현재 벌어지는 몰아치기 때문에 의욕을 잃은 사람들이 분명히 있다.
"최초"가 되려는 경쟁은 항상 과대평가되어 왔지만, 그런 사고를 넘어설 방법이 있다고 믿을 수 있다면 좋겠다.
- sunkeeh
그의 말이 맞다. 위험에 처한 분야와 직업에게 좋은 방향이 될 것 같다.
나는 이런 똑똑한 사람들이 좋다. 위협이 있어도 부정하거나 화가 나서 보이콧하는 대신, 자기 공동체를 위한 새로운 길을 찾아낸다.
- armcat
이 "전체론적" 접근에 대한 강조는 수학뿐 아니라 지금 AI가 건드리는 모든 것에 적용된다고 생각한다. 트위터에서 사람들이 게임을 한 방에 클리어하거나 게임을 재현하는 것을 본다. 목표가 AI로 게임을 한 방에 클리어하는 것이라면 이미 끝났다. 하지만 목표가 사람들이 진정으로 즐기고, 스토리와 장인 정신에 감탄하며, 스토리를 살려내는 완전히 새로운 방식을 찾을 수 있는 몰입형 매체를 만드는 것이라면, 그것은 전혀 다른 문제다.