AI가 증명을 검증해도, 과학은 지식이 되지 못한다
Verification Is Not Knowledge: Science needs more than answers
AI가 정답을 검증할 수 있게 되면서 과학의 가치는 정확성만으로 판단될 위기에 처했다. Northwestern University의 Jessica Hullman은 냉전 시대의 '가치 중립적 이상'이 검증된 결과를 지식으로 착각하게 만든다고 지적한다. Terry Tao의 암 치료 사례처럼, 무엇이 잘못됐을 때 설명하고 책임질 사람이 없다면 검증은 지식이 아니다. 비판과 책무성이야말로 지식 생산의 핵심 메커니즘이다.
기계적 객관성은 개인에 대한 신뢰를 절차에 대한 신뢰로 대체하려 했지만, 그 대체는 의도대로 이루어진 적이 없다.
HN 토론
92- throw0101c
케플러가 자신의 모델을 발표했을 때:
* https://en.wikipedia.org/wiki/Kepler%27s_laws_of_planetary_m...
사람들은 그것이 어떻게 또는 왜 작동하는지 이해하지 못했지만, 수학이 더 쉬웠기 때문에 프톨레마이오스(티코 브라헤 등†) 체계에서 그것으로 전환했습니다. "왜"와 "어떻게"를 이해한 것은 나중(뉴턴, 아인슈타인)이었습니다.
† https://tofspot.blogspot.com/2013/08/the-great-ptolemaic-sma...
- niemandhier
우리 모두는 테리 타오를 알지만, 피터 숄체를 아시나요?
필즈 메달리스트이자 타오가 우리 시대의 가장 중요한 수학자 중 한 명으로 꼽은 사람입니다.
숄체는 다음과 같은 것으로 유명합니다.
„이전에 수행된 모든 작업을 통합하고 그에 대한 우아한 공식을 찾는 정확하고 가장 깔끔한 방법 — 그리고 진정으로 올바른 틀을 찾았기 때문에 알려진 결과를 훨씬 뛰어넘는 것“
어떤 면에서 그 사람은 AI의 보완물입니다. 그는 단지 증명만 생성하는 것이 아니라 이해를 생성합니다.
어쩌면 그는 미래 수학자들의 올바른 본보기일지도 모릅니다.
https://www.quantamagazine.org/peter-scholze-and-the-future-...
- A_D_E_P_T
이 기사의 관점은 내가 어렸을 때 수학 수업이 생각난다. 선생님은 정답만을 원하지 않으셨고, 내가 어떻게 그 답에 도달했는지 보고 싶어 하셨다. 절대적인 의미에서 정답은 내 이해 여부와 상관없이 정답이지만, 수업은 그렇게 채점되지 않았다. 우리는 AI가 과학에 대해 내 옛 계산기가 초등학교 수학에 대해 그랬던 것과 같은 위치에 접어드는 지점에 다가가고 있다. 즉, AI는 우리보다 더 빠르고 정확하게 답으로 도약할 수 있다.
그런데 문제는 검증 자체가 지식이라는 것이다. 그리고 중요한 질문들에 답이 있게 되는 지점에 도달할 수 있다면, 검증자들이 우리가 이해할 수 있는 방식으로 그 답을 설명해 줄 수 있게 하는 것도 분명 가능할 것이다.
- wqtz
아, 인식론... 요즘 학계 연구자 중에 이런 것에 신경 쓰는 사람이 있기나 한가?
학계에 있다면 최근 큰 변화를 눈치챘을 것이다. AI를 통한 산업 규모의 연구 생산이다.
연구비는 "항상" 양 곱하기 질을 기준으로 교수들에게 수여되어 왔다. 이제 일부 교수들은 같은 공저자 그룹과 함께 한 달에 1~3편의 논문을 쏟아내고 있다. 모든 연구비가 그들에게 간다. 연구비 지급 기관은 그저 출판되는 논문 수만 세고 있다.
산업 혁명이 학계를 강타했고, 일부 학자들은 연구의 장인적 가치를 옹호하느라 바쁘고, 일부는 연구 공장을 짓고 있다.
- My_Name
확실히 앞으로 나아갈 길은 AI로 무차별 대입하여 얻은 결과, 예를 들어 특정 추측이 참인지 거짓인지를 얻은 다음, 그 지식을 인간의 이해를 심화하는 데 사용하는 것이다.
어떤 것이 참인지 거짓인지 아는 것만으로도 적어도 인간이 그것을 증명하거나 반증하려고 시간을 낭비하는 것을 막고, 더 우아한 증명을 찾거나 참/거짓 결과의 함의를 조사할 수 있게 해줄 것이다.