Erdős 문제 사이트, AI 생성 증명에 결국 백기를 들다
Erdosproblems.com Succumbs to the AI Onslaught
2023년 Thomas Bloom이 만든 erdosproblems.com은 Erdős 문제를 인간이 탐구하도록 돕는 사이트였다. 하지만 AI가 급격히 발전하면서 사용자들은 설명 없는 AI 생성 증명을 올리기 시작했고, 진지한 수학적 논의는 사라졌다. 이에 Bloom은 문제 댓글과 증명 주장을 동결하고, 문제 상태 표시를 없애며, 고품질 해설에 집중하는 개편을 단행했다. 그는 AI 증명 저장소와 인간의 호기심을 위한 공간을 분리해야 한다고 강조한다.
도살장에 식당을 열지 않는 것처럼, 그러한 저장소와 실제 질문을 장려하고 적절한 맥락에 놓으며 인간 이해의 현재 상태를 유용하게 개관하는 사이트 사이에는 분리가 중요하다.
HN 토론
11- dooglius
나는 어떤 문제든 '해결됨'으로 간주하는 것이 에르되시의 정신에 어긋난다고 생각한다 -- 질문의 한 형태가 답해질 때마다 많은 다른 질문들이 생겨나며, 모든 문제는 계속해서 주목받을 가치가 있다.
하지만 나는 그 목록의 전체 아이디어가 바로 에르되시가 제기했지만 스스로 해결하지 못한 문제들을 정확히 목록화한 것이라고 생각했다. "에르되시가 흥미롭게 여긴 모든 문제, 그가 해결한 것까지 포함한" 더 넓은 집합은 더 클 뿐만 아니라, 질적으로도 다를 것이라고 나는 짐작한다.
- nemomarx
"나는 이런 기능을 하는 웹사이트가 존재해야 한다고 믿는다 -- 사람들이 AI가 생성한 증명을, 설령 인간의 이해가 전혀 없는 순수 형식적인 것일지라도, 기록해 둘 수 있는 곳 말이다. 그래야 다른 사람들이 같은 증명을 생성하느라 토큰을 낭비하는 것을 막을 수 있고, 원하는 사람들이 그것에 접근해 활용할 수 있다. 이제 그런 저장소 후보가 여러 개 있으며, 책임감 있게 관리된다면 수학 생태계에서 유용한 역할을 할 수 있다. 나 개인적으로는 그런 걸 관리하고 싶지 않지만.
도살장에 식당을 열지 않는 것처럼, 그런 저장소와 실제 질문들을 홍보하고 적절한 맥락에 놓고 인간 이해의 현재 상태에 대한 유용한 개요를 제공하는 것을 목표로 하는 사이트 사이에는 분리가 중요하다."
전반적으로 이건 매우 합리적인 블로그 글이라고 생각한다. 에이전트가 읽는 사이트는 인간이 읽는 사이트와 필요와 고려사항이 많이 다르다. 정말로 Anthropic이나 OpenAI가 자기네 것을 위해 이런 걸 만들어야 한다.
- pfdietz
(제목은 내가 클릭베이트를 한 것이다)
링크에서:
"지금 사람들이 이 사이트와 공개적으로 상호작용하는 주된 방식은 자신이 AI로 생성한 증명을 광고하는 것이다. 대개 설명하려는 시도조차 없이, (점점 의미 없어지는) 우선권 주장을 기록하는 수단으로서 말이다.
이것은 내가 상상했던 것과 매우 다르며, 나는 이런 일을 하는 웹사이트를 관리하고 싶지 않다."