SF는 AI를 예측하지 못했다, 그래도 가장 정확했던 작품은 테드 창의 소설
How accurately did science fiction stories predict AI?
2017년 transformer가 등장해 수십억 명이 매일 AI와 상호작용하게 될 줄은 아무도 예측하지 못했다. 저자는 SF를 예측이 아닌 묘사로 규정한 어슐러 르 귄에 동의하면서도, 실제 AI 개발의 특징을 뽑아 유명 작품들과 대조해 점수를 매겼다. 1위는 테드 창의 《소프트웨어 객체의 생애 주기》로, AI를 가르치고 유지하고 판매하는 노동을 가장 가깝게 그렸다. transformer의 attention 메커니즘을 명확히 묘사한 2017년 이전 작품은 없었다.
나는 어슐러 르 귄의 말에 동의한다. “SF는 예측적이지 않다. 그것은 묘사적이다.”
HN 토론
76- pugio
요즘 SF를 읽을 때 믿음을 유지하기가 힘들다. 현재 추세선을 따라가면 그럴듯한 미래를 상상하기가 정말 어렵다. AI가 등장하지 않은 이유를 억지로 만들어내거나(1), 아니면 인간이 왜 무언가를 하고 있는지—우주선을 조종하고, 과학을 하고, 탐험을 하는지—설명해야 한다(2).
(1) 버틀러리안 지하드. 샌더슨의 Skyward에는 적어도 이유가 있었다.
(2) 뱅크스의 Culture에는 가능한 미래가 있었다. 다른 작품들도 분명 있겠지만, 많지는 않다.
나는 이 생각을 자주 하는데, 가까운 미래 SF 아이디어는 넘쳐나지만(10~20년 전이라면 아주 먼 미래처럼 보였을 것들), 그보다 훨씬 먼 미래는 도저히 상상할 수가 없다. 아마 그래서 '특이점'이라고 부르는 모양이다.
- joegibbs
과거의 AI는 당시의 컴퓨터에 기반한 것처럼 보인다. AI들은 매우 논리적이고, 절대 실수하지 않으며, 마치 전문가가 프로그래밍한 수많은 switch 문과 if 문처럼 행동한다. 반면 현대 AI는 인간의 텍스트에 기반하기 때문에 모델이 인간의 편향을 갖고, 사고의 연쇄(chain-of-thought)에서 욕을 하기도 하며, 아무 이유 없이 오류를 내기도 한다.
- andrewflnr
여기서 Peter Watts를 언급하지 않은 건 정말 범죄다. 그는 소름 돋을 정도로 정확히 맞혔다. Blindsight에 나오는 Rorschach의 목소리는 초기 LLM과 매우 비슷하다. 그리고, Starfish의 죽은 인터넷이 예언으로 밝혀지지 않기를 바라지만 점점 불안해지고 있다.
- seanmcdirmid
나는 이 문제를 한동안 생각해 왔는데, 완전한 실패 사례가 있다. SF 작가이자 컴퓨터 과학자인 Vernor Vinge는 1999년 SF 소설 A Deepness in the Sky에서 '프로그래머-고고학자'라는 용어를 대중화했다.
전제는 AI가 결코 등장하지 않아서, 새로운 코드를 작성하는 것보다 기존 코드를 발굴하는 것이 더 효율적이기 때문에 우리가 코드를 뒤지며 살아남았다는 것이다. 하지만 LLM이 등장하면서, 발굴하는 것보다 새로 작성하는 것이 훨씬 쉬워졌다.
- jasonjei
많은 SF 작가들이 여러 이유로 LLM을 정말 싫어한다. 생성하는 작품 때문이든, 자신의 작품으로 LLM을 학습시켰다는 저작권 침해 주장 때문이든. 어떤 이들은 LLM에 그렇게 부정적인 태도를 취해서 코딩 프로젝트에도 Claude나 GPT를 적극적으로 거부한다. John Scalzi와 Catherine Asaro가 모든 LLM 사용을 보이콧하는 예로 떠오른다…