JAX를 LLVM 컴파일러로 만든 사고

We accidentally built an LLVM compiler for Jax

퀀텀 컴파일러 Catalyst를 개발하던 중, 팀은 JAX 코드를 XLA 런타임 없이 MLIR과 LLVM으로 직접 컴파일하는 파이프라인을 우연히 만들었다. 이는 동적 형태 배열, 네이티브 Python 제어 흐름, 독립 실행형 AOT 바이너리 생성 등 XLA가 제공하지 못하는 이점을 제공한다. 표준 딥러닝 워크로드에서는 XLA를 대체하지 못하지만, 커스텀 하드웨어와 엣지 ML 분야에서 흥미로운 가능성을 열어준다.