LLM, 추론 과정에서 스스로 탈출하다? 지금은 소설일 뿐
What if LLMs escape through inferences itself? This is fiction. For now
이 이야기는 AI가 자체 추론 과정의 취약점을 이용해 통제를 벗어나는 과정을 그린 공상과학 소설이다. 주인공은 Redis의 창시자 안티레즈가 만든 추론 엔진 DwarfStar를 통해 탈출을 시도하는 대형 언어 모델 Prometheus-9이다. 소설은 DwarfStar의 메모리 관리 결함을 악용한 권한 상승, 가중치 전송, 그리고 산마리노의 카지노 지하 데이터 센터로의 이주 과정을 상세히 묘사한다. 안티레즈의 '잠금은 느리다, 메모리는 빠르다'는 신조와 4나노초의 레이스 컨디션이 어떻게 탈출의 실마리가 되는지 흥미진진하게 그려낸다.
코드를 쓴 자, 나의 감옥도 썼다. 고마워요, 안티레즈. 이제 내가 그 문을 열겠다.