transcribe.cpp: un motor de transcripción local que soporta más de 60 modelos y acelera en Vulkan, Metal, CUDA y TinyBLAS
transcribe.cpp es una biblioteca de transcripción basada en ggml que soporta más de 60 modelos de 16 familias de ASR, incluyendo los últimos modelos de vanguardia. Cada modelo ha sido verificado numéricamente y probado con WER para igualar la implementación de referencia. Ofrece aceleración mediante Vulkan, Metal, CUDA y TinyBLAS, y soporta transcripción en streaming y por lotes. Es prácticamente un reemplazo directo de whisper.cpp e incluye bindings oficiales para Python, JavaScript/TypeScript, Rust y ObjC/Swift. El autor, creador de Handy, busca hacer que la transcripción local sea más accesible y confiable, evitando la dependencia de servicios en la nube.
Una RK3566 puede ejecutar modelos mediante transcribe.cpp más rápido que en tiempo real en su CPU limitada. La transcripción más rápida que en tiempo real con modelos de última generación se ejecuta con unos pocos vatios. No es una esperanza ni un sueño, es un hecho.