ByteDance, 추천 모델용 저장소 USDB로 쓰기 지연 85.8% 줄였다
USDB: Scaling Storage for Next-Generation Recommender Systems at ByteDance
ByteDance가 스트리밍과 배치 워크로드를 아우르는 통합 시퀀스 저장 시스템 USDB를 공개했다. CascadeLSM 시간 기반 컴팩션, 차별화된 레플리카, 부분 덤프, 하이브리드 컬럼 포맷으로 유지보수 결과를 수집·추론·학습에서 재사용한다. 실제 마이그레이션에서 평균 쓰기 지연이 85.8% 감소했고 인프라 비용은 42.1% 절감됐으며, 집계 푸시다운은 수신 예산이 제한된 환경에서 일반 읽기의 8.5배 처리량을 유지했다.
추천 모델이 점점 더 길고 속성 풍부한 사용자 이력을 소비하면서, 작은 연속 업데이트와 반복적인 대규모 읽기가 핵심적인 저장 비대칭으로 떠올랐다.
- bashhq_r
그래서 바이트댄스는 이런 걸 위해 커스텀 스토리지를 만들 여유가 있는데, 우린 여기서 사용자 시퀀스를 redis sorted set에 억지로 끼워 맞추고 있네
- BenoitP
직장에서 고전적인 DLRM을 세팅 중인데, 손 들어보자: 누가 생성형 추천기나 LRM으로 넘어가는 격차를 메워본 사람 있나?
우리 설문조사에서 상당히 많은 과제 목록을 확인했다: 제품 카디널리티(Semantic ID?), 판별형 추천기 대비 낮은 성능(우리 사용자 의도는 반복적인 제품에 크게 편향되어 있음), 콜드 스타트, 엔티티 피처, 설명 가능성 스위트 부재, 학습 비용, 예측 비용 등등.
누구든 쉽게 해낸 사람 있나? 생성형 추천기 튜토리얼은 어디에 있나?
- mikert89
추천기의 미래는 그저 에이전트가 당신의 데이터를 넘겨보며 다음 최선의 옵션을 고르는 것일 뿐이다