RAG은 생각보다 훨씬 간단합니다
RAG Is Simpler Than You Think

대부분의 RAG 시스템이 과도하게 설계되어 있습니다. 이 글은 BM25 기반의 단순한 전체 텍스트 검색부터 쿼리 재작성, 하이브리드 검색, 온더플라이 임베딩, 핫/콜드 티어, 전체 사전 임베딩까지 6가지 RAG 아키텍처를 소개합니다. 각 접근 방식의 장단점과 적합한 상황을 설명하며, 데이터 신선도, 코퍼스 특성, 쿼리 패턴, 규모, 팀 역량에 따라 선택해야 한다고 조언합니다. 특히 쿼리 재작성의 효율성과 임베딩 모델 교체의 비용을 강조하며, 대부분의 경우 복잡한 임베딩 없이도 문제를 해결할 수 있다고 주장합니다.
저는 팀들이 벡터 데이터베이스 최적화에 몇 달을 쓰는 것을 봤지만, 쿼리 재작성이 문제의 90%를 해결했을 것입니다.