turbovec：GoogleのTurboQuantをRustで実装したベクトル検索、FAISSより高速
Turbovec – Google's TurboQuant for vector search in Rust
turbovecは、Google ResearchのTurboQuantアルゴリズムをRustで実装したベクトルインデックスで、Pythonバインディングを備えています。1000万文書のコーパスをfloat32では31GB必要とするところを、わずか4GBに圧縮し、FAISSよりも高速に検索できます。オンラインでの追加、SIMD最適化による高速検索、増分保存、検索時のフィルタリングに対応し、完全にローカルで動作します。LangChainやLlamaIndexなどのフレームワークとの統合も提供されています。
1000万文書のコーパスはfloat32で31GBのRAMを必要としますが、turbovecはそれを4GBに収め、FAISSよりも高速に検索します。
HNでの議論
34- Eridrus
FAISSはもはやSoTAに近くありません：
https://ann-benchmarks.com/index.html
- ghm2199
すごい！1000万ドキュメントに対して4GB。つまり、以前よりはるかに高速に逆インデックスを構築でき、デバッグやパフォーマンステストのような開発プロセスがはるかにスムーズになるということだ。sqliteバインディングの登場が待ちきれない！
- nharada
実際に人々に採用してほしいプロジェクトなら、READMEをもう少し人間らしく書いたほうがいいと思う。
- bobmarleybiceps
turboquantのオープンレビューのコメントを読むべきだ：https://openreview.net/forum?id=tO3ASKZlok
- sp1982
既存のパイプラインに組み込みたい人がいるなら、私は似たようなアイデアを使って求人検索のベクトルを圧縮しており、約8倍の圧縮率で品質の低下は約3.5%だ。私の実験はこちら：https://corvi.careers/blog/vector-search-embedding-compressi...