GenRec: el recomendador de Netflix impulsado por LLM supera a su sistema de producción

GenRec: Towards LLM-Native Recommendation at Netflix

Netflix presenta GenRec, un clasificador de recomendaciones basado en un modelo de lenguaje grande (LLM) que se entrena posteriormente con datos y objetivos específicos de Netflix. Al verbalizar historiales de usuarios, metadatos de ítems y contexto como texto, GenRec reduce la dependencia de la ingeniería de características manual. En una prueba A/B a gran escala, superó al clasificador de producción en métricas en línea a corto y largo plazo, utilizando solo una fracción de los datos etiquetados y señales de entrada. El sistema emplea un objetivo de ranking consciente del catálogo, un objetivo de modelado de lenguaje y un entrenamiento ponderado por recompensas para alinearse con el valor a largo plazo para el miembro. Además, se sirve en modo solo prefill para eficiencia de costos.