수학자 단체, OpenAI의 수학 문서 무더기 공개에 반발

이 비꼬는 말들 사이에 숨겨진 두 가지 강력한 요점이 있다: OpenAI가 불과 2주 반 전에 함께 작업한다고 발표한 AI 수학 자문 그룹이 내부 모델을 사용해 미해결 문제를 푸는 것에 반대한다는 점(그들의 일반 지침[0]에 따르면), 그리고 우호적인 정식화를 갖추기 전에 결과를 쏟아내는 이러한 방식이 인간의 이해를 중심에 두지 않는다는 점이다.

내 생각에 OpenAI의 발표 방식은 일반 지침의 다른 부분에도 어긋난다. 또한 그들이 2B3 항목을 따를지도 의문이다:

> 공개되는 각 결과에 대해, AI 연구소는 모델 이름, 사용된 프롬프트, (요약된) 사고 연쇄, 소요 시간, 그리고 추정 계산 비용을 공개해야 한다. 결과를 만들어낸 과학적 과정을 밝혀주는 추가 자료, 예컨대 정리되기 전의 초기 LLM 출력(위 (1)에서 권장한 대로)을 공개하는 것은 강력히 권장된다.

[0] https://agmai.org/general-sep29/

그들의 요점이 어느 정도 이해는 된다.

수천 년 동안 수학은 인간 사고의 정점에 있는 것처럼 여겨졌고, 우리를 다른 종과 구별 짓는 것 중 하나였다. Euler, Gauss, Euclid, Hilbert, Erdos 같은 사람들은 즉각적인 실용적 용도가 없는 문제를 풀려고 노력하는, 가장 고귀한 추구에 종사한다는 분위기를 풍겼고, 이는 대체로 오랜 기간 집중적인 사고와 이따금의 창의적 영감을 필요로 했다.

그런데 AI가 등장했고, 이는 이 분야 전체에 대량 멸종 사건과 같다. LLM은 멈추지 않고 더 오래 생각할 수 있고, 더 나은 기억력과 작업 기억을 갖는다는 것이 드러났다. 지금 우리가 보고 있는 것은 5000년 된 제도들이 더 이상 인간을 유일한 노동력 원천으로 필요로 하지 않기 때문에 존재론적 위협에 직면한 모습이다.

가장 가까운 비유는 1900년대 초 자동차가 마차 산업을 대체한 것이라고 생각한다. 말들은 항의할 수 없었고 빠르게 일자리를 잃었지만, 마차 소유주와 그 산업은 분명히 항의했다.

https://ghostsofdc.org/2018/07/16/horse-dealers-claim-automo...

"수학자들은 이런 작업이 이루어지기를 요청하지 않았다."

문지기 노릇 많이도 하네?

"수학자들은 역사와 분야별 고려 사항에 기반한 진보에 대한 특별한 비전을 가지고 있다."

이건 수학적으로 교양 있는 사람이 쓴 것이라고 진지하게 볼 수 없다. 너무 창피할 정도다.

나는 현재 평범한 직장에서 일하는 전직 수학자다(OpenAI와는 무관하다). 개인적인 의견일 뿐이지만, 이 성명은 몹시 창피하고, 수학계가 (거의) 항상 열린 탐구 정신의 기준을 지켜온 것과 상충한다고 생각한다.