Cactus Needle 3 - Modelos de automatización de 8-29MB que igualan a DeepSeek V4 Flash
Show HN: Cactus Needle 3: 8-29MB automation models can match DeepSeek V4 Flash
Cactus Needle 3 es un modelo de lenguaje agéntico de 45M de parámetros comprimido a solo 14MB que ejecuta sesiones completas en 28MB de RAM. Diseñado para dispositivos de bajo costo como Raspberry Pi, Meta Quest y teléfonos económicos, logra 500 tokens/s en Raspberry Pi 5 y funciona en microcontroladores ESP32. Ideal para llamadas a funciones, control de dispositivos y extracción estructurada, con licencia Apache 2.0 y pesos disponibles en Hugging Face. Pruébalo en el Playground o intégralo con el repo de GitHub.
Needle 2 es el modelo que se entrenó para 2 bits, no una versión cuantizada después: eso es lo que permite meter 45M de parámetros en 14MB sin perder nada en nuestra batería.