Tarski 공격: LLM 은 절대적인 진실을 포착할 수 없다
Truth is not a direction: a Tarski attack on LLM probes
LLM 은 진실을 나타내는 특정 방향을 가진다고 믿어졌으나, 이는 Tarski 의 역설로 인해 불가능합니다. 자기 참조 문장을 생성하면 진리 탐지기가 모순에 빠지게 되므로, 모델의 임베딩 공간에서 진실을 완벽하게 포착하는 보편적인 탐지기는 존재할 수 없습니다.
모델의 표현 공간에 대해 정의 가능한 탐지기는 그 탐지기와 그 출력을 설명할 만큼 풍부한 언어에 대해 정확히 진실을 포착할 수 없습니다.