Mac M4에서 오프라인으로 초당 45개 결정을 내리는 Laya

Laya (OS Jev) on Mac M4 CoreML Offline (45 decisions per second)

fordnox가 공개한 gist로, Mac M4에서 CoreML을 통해 Laya를 완전 오프라인으로 실행하는 방법을 보여준다. uv로 laya-coreml[demo]를 설치하고 Hugging Face에서 laya-multilingual-coreml-ane 모델을 내려받은 뒤 laya-coreml-snake 데모를 실행하는 단계로 구성되며, Apple Neural Engine을 활용해 초당 45개의 결정을 처리한다.