DuckDBがDuckLakeでデータレイクとカタログを統合
DuckDB Ducklake
DuckLakeはSQLとParquetを基盤とするオープンなLakehouseフォーマット。メタデータをカタログデータベースに、データをParquetファイルに保存する。DuckDB拡張により、ATTACH構文でDuckLakeデータベースに接続し、標準SQLでテーブルの作成・変更・クエリが可能。タイムトラベル、スキーマ進化、変更データフィードなどの機能を備える。
DuckLakeはSQLとParquet上に構築されたオープンなLakehouseフォーマットです。
- smithclay
広く知られているとか理解されているとは思わないけど、Ducklakeはduckdbを必要としないんだ。ただの(優れた)データレイク仕様で、duckdbでも動くってだけ。
https://github.com/datafusion-contrib/datafusion-ducklake では、Rust/DataFusionエコシステムのクールな代替イニシアチブが進行中で、Quackプロトコルも多くのクールな可能性を開くと思う。
Ducklakeで何をすればいいかアイデアが必要なら、エージェントのトレースを全部放り込むことをお勧めするよ。
- engineeringwoke
悪くはないけど、かなりアルファ版のソフトウェアだね。v1.5.4では、カタログのフィルタリングされたカウントが壊れてると思う。main/v2で修正しようとしたら、duckdb v2のSQLパーサーが10倍遅くなってて、また別の障害になった。正直ちょっと面倒だったよ。
- celias
Motherduckは、DuckLakeのウェブページでO'reillyの「DuckLake: The Definitive Guide」の無料コピーを提供しているよ