DoorDash, LLM 심사위원단으로 음식 메타데이터 구축, 정확도 20% 향상
Building Food Metadata with LLM Juries

DoorDash가 LLM 심사위원단, 컨텍스트 최적화 에이전트, 분산 컴퓨팅을 활용해 음식 메타데이터를 자동 생성하는 AI 플랫폼을 구축했다. 이 시스템은 수백만 개의 메뉴 항목에 대해 태그를 생성하고 검증하며, 인간 검수자보다 약 20% 높은 정확도를 달성했다. 또한 컨텍스트 최적화 루프를 통해 프롬프트 개발 속도를 10배 높이고, AI 기반 주석으로 파인튜닝 데이터를 생성해 추론 비용을 90% 절감했다. 백필 시간도 한 달에서 며칠로 단축했다.
프롬프트 최적화는 모델 가중치 최적화와 동일한 수렴 역학을 따릅니다. AI는 인간이 며칠 또는 몇 주가 걸리는 작업을 몇 시간 만에 완료할 수 있습니다.