turbovec:Rust 实现 Google 向量搜索
Turbovec – Google's TurboQuant for vector search in Rust

turbovec 是基于 Google 的 TurboQuant 算法构建的 Rust 向量索引,提供 Python 绑定。它无需训练阶段,支持在线增量更新,在 ARM 和 x86 架构上搜索速度全面超越 FAISS。通过 SIMD 优化,turbovec 将 1000 万文档的内存占用从 31GB 压缩至 4GB,同时保持高精度。该项目支持 LangChain、LlamaIndex 等主流框架,提供纯本地化部署方案,是构建高隐私、低延迟 RAG 系统的理想选择。
1000 万文档语料库在 float32 格式下需要 31GB 内存,而 turbovec 仅需 4GB 即可容纳,且搜索速度快于 FAISS。
HN 评论区
34- lmeyerov
有趣的是,虽然我们没有为 Louie.ai 微调生成式模型,但我们发现微调嵌入模型能大幅省钱。不再需要 1K-2K 宽度的前沿嵌入向量维度……64 维就够了。这在向量数据库成本上省了一大笔。
我很好奇这和 turboquant 怎么配合。是已经不需要了?还是依然主导?亦或是两者结合更好?
- Eridrus
FAISS 已经离 SOTA 很远了:
https://ann-benchmarks.com/index.html
- ghm2199
哇!1000 万文档只要 4GB。这意味着构建倒排索引的速度会比以前快得多,调试、性能测试这类开发流程也会变得顺畅很多。坐等 sqlite 绑定库发布!
- nharada
对于一个真心想让人采用的项目,README 如果能写得稍微人性化一点就好了。
- bobmarleybiceps
大家应该去读读 turboquant 的开放评审评论:https://openreview.net/forum?id=tO3ASKZlok