Cactus Needle 3 - 8-29MB automation models for tiny devices
Show HN: Cactus Needle 3: 8-29MB automation models can match DeepSeek V4 Flash
Cactus Needle 3 — это open-source модель на 45M параметров для вызова функций, управления устройствами и структурированного извлечения данных. Весь модель — один бинарник размером 14MB, работающий в 28MB RAM. Благодаря 2-битному сжатию Cactus Quants и движку без зависимостей, Needle 3 достигает 500 токенов/сек на Raspberry Pi 5 и работает на микроконтроллерах ESP32-S3, VR-гарнитурах и бюджетных смартфонах. Модель обучена специально для tool calling и структурированного вывода, поддерживает fine-tuning на вашем Mac/PC и распространяется под лицензией Apache 2.0. Идеальна для носимых устройств, роботов, умного дома и автомобилей.
Каждое архитектурное решение было проверено на целевом оборудовании, прежде чем получить свои параметры, а результатом является пара: модель и движок, а не просто веса.