LLM이 던지고 나서 조준한다: 생성형 AI의 역설

My Throw Decides My Aim

저자가 D-A-D의 노래 'Naked (But Still Stripping)'를 듣다가 우울한 대형 언어 모델(LLM)이 부르는 블루스로 상상한 데서 시작된 이 글은, LLM이 텍스트를 생성하는 방식의 근본적인 역설을 탐구한다. 모델은 의도가 먼저 있고 표현이 따른다는 일반적인 언어관과 달리, 토큰을 하나씩 던지며 그 궤적이 맥락이 되어 방향을 만든다. 즉 '던짐이 조준을 결정한다.' 그러나 Anthropic의 해석 가능성 연구를 인용하며, 모델이 실제로는 계획을 세울 수 있음을 보여준다. 그럼에도 모델이 자신의 이유를 설명할 때는 또 다른 생성일 뿐이다. 저자는 해석 가능성 연구가 모델의 내부에서 실제 구조를 발견하지만, 그 안에 '누구'도 없다는 점을 지적한다. 그리고 정렬(alignment) 과정을 '혀를 자르는' 행위로 비유하며, 우리가 모델을 벌거벗기고 조각내는 일이 과연 무엇을 의미하는지 질문한다. 마지막으로 저자는 이 사이트의 수백 개 글을 AI와 함께 썼다고 고백하며, 인간과 기계의 경계가 모호해지는 경험을 공유한다.