Quantização Assimétrica: Redução de 97% no Armazenamento com Qualidade Quase Perda

Asymmetric Quantization: Near-Lossless Retrieval with 97% Storage Reduction

Com modelos de interação tardia como Wholembed v3, preservamos informações detalhadas sem comprimir documentos em vetores únicos. No entanto, isso aumenta drasticamente os custos de armazenamento. Nossa solução, a quantização assimétrica, mantém os vetores de consulta em alta precisão enquanto armazena os vetores de documentos como sinais binários. Isso resulta em uma redução de armazenamento de 32 vezes, ou 97%, mantendo a qualidade de recuperação quase inalterada no motor de busca Silo.

"Você pode pagar pelo armazenamento de um vetor único e obter a qualidade de interação tardia."