인류는 기계를 버리고 2만 년의 기술 역행을 택했다

《듄》에서 내가 가장 좋아하는 구절:

위대함은 일시적인 경험이다. 그것은 결코 일관되지 않다. 그것은 부분적으로 인류의 신화 창조적 상상력에 달려 있다. 위대함을 경험하는 사람은 자신이 속한 신화에 대한 감각을 지녀야 한다. 그는 자신에게 투영된 것을 반영해야 한다. 그리고 그는 강한 냉소적 감각을 지녀야 한다. 이것이 그를 자신의 허세에 대한 믿음으로부터 분리시켜 준다. 냉소주의만이 그가 자기 안에서 움직일 수 있게 해준다. 이 자질이 없으면, 간헐적인 위대함조차도 한 사람을 파멸시킬 것이다.

《듄》의 사고 기계에 대해 흥미롭게 느끼는 점은, 많은 SF에서 인공지능 자체가 인류를 파괴하기로 결정한다는 것이다. 《듄》에서는 기계를 통제하는 인간들(테크노크라트)이 인류를 거의 파멸시킬 뻔한 주체다. 지하드는 기계 자체에 대한 싸움이기도 했지만, 그에 못지않게 그들에 대한 싸움이기도 했다.

그래서 어떤 면에서 우리는 Terminator의 경우보다 《듄》 버전의 '기계가 세계/우주를 장악하는' 상황을 더 목격할 가능성이 높다. 많은 이들이 ChatGPT/Claude가 Skynet이라고 농담하지만 말이다.

페이지 끝에 이런 문단이 있다:

버틀러리안 지하드에 대한 또 다른, 더 미묘한 정당화는 프랭크 허버트의 원작 소설에서도 발견되는데, 특히 기술의 사용이 인간을 기계처럼 사고하도록 훈련시킨다는 하이데거의 테제다. 문제는 기계가 결정론적이라는 점이다. 따라서 사람들을 기계처럼 훈련시키는 것은 자기 제한적이다.

하이데거가 LLM의 확률적 본성을 인간 사고에 긍정적인 영향을 미치는 것으로 간주할지 궁금하다.

허버트는 인간이 된다는 것은 본질적으로 '열린 결말'을 지닌 존재, 즉 개인적으로나 종으로서 미발견의, 미결정적 진화가 가능한 존재라고 생각했던 것 같다.

정말 그렇다.

AI의 광범위한 사용과 함께 인간 두뇌의 진화가 어디로 향할지 정말 궁금하다.

초기 증거는 좋지 않지만, 의도적이고 사려 깊은 훈련을 통해 우리 두뇌는 현재 우리가 인정하는 것보다 훨씬 더 많은 것을 할 수 있다고 믿는다.

책에서는 인간 대 기계인가? 우리 세계에서는 인간+기계 대 인간(아마도 + 일부 기계)이 될 것이 꽤 분명하기 때문이다.

> 이것이 이 기계들의 창조자들을 새로운 테크노크라트 계급으로 몰아넣어, 사실상 일반 사람들의 세계를 통제하게 했다.

오늘날의 테크노 파시스트들. 우리는 이미 그곳에 와 있다.

또한 《듄》 첫 소설을 인용하자면:

> 한때 인간들은 기계에 사고를 넘김으로써 그것이 그들을 자유롭게 해주기를 바랐다. 그러나 그것은 기계를 가진 다른 인간들이 그들을 노예로 삼는 것만을 허용했을 뿐이다.