transcribe.cpp: ggml 기반 ASR 라이브러리, 16개 모델 제품군 지원
transcribe.cpp는 ggml 기반의 음성 인식(ASR) 라이브러리로, 최신 트랜스크립션 모델들을 지원합니다. 16개 이상의 ASR 모델 제품군(60개 이상 모델)을 지원하며, Vulkan, Metal, CUDA, TinyBLAS를 통한 가속을 제공합니다. 모든 모델은 참조 구현과 수치적으로 검증되고 WER 테스트를 거쳤습니다. 스트리밍 및 배치 트랜스크립션을 지원하며, whisper.cpp의 대체재로 사용할 수 있습니다. Python, JavaScript/TypeScript, Rust, Objective-C/Swift 바인딩을 공식 지원합니다. 이 프로젝트는 Handy 앱 개발 과정에서 시작되었으며, Mozilla AI의 지원을 받았습니다.
RK3566은 빈약한 CPU에서도 transcribe.cpp를 통해 모델을 실시간보다 빠르게 실행할 수 있습니다. SOTA 모델로 실시간보다 빠른 트랜스크립션이 단 몇 와트의 전력으로 실행됩니다. 그것은 희망이나 꿈이 아니라 사실입니다.