AI가 코드를 써도 우리는 읽기를 포기해선 안 된다
Wir müssen wissen – wir werden wissen
100년 전 힐베르트는 모든 수학적 진리를 도출하는 완전하고 일관된 공리 체계를 꿈꿨고, 괴델과 튜링은 그것이 불가능함을 증명했다. 그런데 역설적으로 그 증명 과정에서 컴퓨터 과학이 탄생했고, 이제 Lean 같은 증명 보조기와 AI 에이전트가 힐베르트의 '증명 기계'를 실현하고 있다. 컴퓨터 과학자인 저자는 AI가 생성한 코드를 읽지 않는 관행이 수학자들이 증명을 포기하지 않는 태도와 정면으로 배치된다고 경고한다.
우리는 알아야 한다 — 우리는 알게 될 것이다.
HN 토론
15- dragontamer
> 무지주의(ignorabimus)라는 어리석음에 반대하여 우리의 구호는 이러하다: Wir müssen wissen – wir werden wissen ("우리는 알아야 한다 – 우리는 알게 될 것이다").
번역을 더 빨리 보고 싶은 사람들을 위해. 솔직히 말해, 제목의 의미와 블로그 글 전체의 논지를 7번째 문단에서야 제시하는 건 좀 불공평하다고 생각한다.
- t0mek
> 우리는 컴퓨팅에서도 같은 태도를 취해야 한다: 추상화를 사용하고, 리팩터링하고, 범위를 다듬고, 고수준 언어를 발명하고 채택하여, 코드를 머릿속에 담을 수 있을 때까지 나아가야 한다.
이 말이 사실이길 바란다. 하지만 반례로, 우리 C나 Golang 프로그램에서 생성된 기계어나 어셈블리 코드를 머릿속에 담아야 할까? 아니면 Golang 코드가 머릿속에 담기에 충분히 좋은 고수준 추상화인가?
만약 그렇다면, 더 나아가 설계 문서를 머릿속에 담기에 적합한 코드로 취급하고 Golang 프로그램을 파생물로 취급해야 한다는 뜻일까? 아니면 설계 문서도 너무 저수준이라서 "앱을 만들어줘, 실수하지 마"라는 대략적인 분위기만으로도 실제로 충분할까?
올바른 추상화 수준은 무엇일까? 어떻게 찾을 수 있을까?
- user2342
"Muss man wissen!"