LLM 출력을 인간화하는 건 어리석은 짓이다
Humanising LLM Outputs Is Dumb
LLM 출력을 인간 친화적으로 다듬는 프롬프트가 유행이지만, 이는 정보 손실을 초래하고 에이전트 간 통신을 저해한다. 원시 상태가 가장 정보 밀도가 높은 표현이며, 인간이 소비하는 경계에서만 변환해야 한다. 이 글은 데이터베이스와 API가 그렇게 하듯, 에이전트는 정밀한 기계 지향 상태를 유지하고 최종 출력만 인간화하는 것이 옳다고 주장한다.
에이전트가 실패하는 방식은 유용하고 추하다: 상충하는 증거, 해결되지 않은 분기, 스택 트레이스, 불확실한 가정. 인간의 산문은 이런 것들을 '고려할 사항이 몇 가지 있습니다' 같은 문장으로 매끄럽게 다듬는 데 매우 능숙하다.