xarray-sql: 用SQL自动推导FlashAttention内核
Show HN: Automatic deduction of FlashAttention kernel from ~25 lines of SQL

xarray-sql 项目展示了如何用约25行SQL代码自动推导出FlashAttention内核。通过einfold查询优化器,系统能将SQL计划重写为高效的数组算法,无需为Attention机制编写特定规则。该项目在DataFusion和DuckDB等引擎上验证了前向传播与梯度计算的正确性,证明了SQL不仅能处理数据,还能高效执行复杂的机器学习核心算子。
einfold无需为Attention编写任何规则,仅凭通用融合规则就能从SQL中自动发现FlashAttention的高效执行计划。