No clasifiques: alucina
Don't classify, hallucinate!
Clasificar productos o consultas con LLMs es aburrido y caro. Pero hay un truco: pedirle al modelo que invente clasificaciones falsas y luego resolverlas con embeddings. Así, un LLM barato puede clasificar consultas como 'mesa de café de madera' sin necesidad de enviar la lista completa de categorías válidas. El autor lo demuestra con el dataset de Wayfair y un notebook que encuentra la categoría real más cercana a la alucinación.
Puedes darles estas tareas de alucinación a LLMs baratos y tontos, y no necesitas enviar el esquema al LLM cada vez.