블랙박스 LLM에서 프롬프트를 거의 그대로 복원하는 역방향 언어 모델 등장
Previous-Token Prediction Based LLM Inversion for Prompt Reconstruction
LLM은 다음 토큰을 샘플링해 텍스트를 생성하기 때문에 프롬프트와 응답 사이에는 다대다 대응이 생겨 프롬프트 역추론이 어렵다. 기존 연구는 대규모 외부 데이터로 seq2seq 모델을 미세조정하거나 모델 가중치·로짓에 접근해야 했다. 이 논문은 대상 LLM이 스스로 생성한 합성 데이터만으로 역방향 언어 모델을 처음부터 학습해, 블랙박스 환경에서도 보조 수단 없이 프롬프트를 충실히 복원하는 방법을 제안한다. 다음 토큰 예측에 대응하는 이전 토큰 예측으로 학습하며, 샘플링을 통해 다양한 프롬프트 복원도 가능하다.
다음 토큰 예측과 유사하게, 우리의 역방향 모델은 이전 토큰 예측을 사용해 학습되며, 이는 순방향과 역방향 과정 사이에 생성적 연결을 확립해 충실한 프롬프트 복원을 가능하게 한다.