InstinctFlash - Высокопроизводительный runtime для робототехнических моделей
Show HN: InstinctFlash – Run 5B world-action models in real time on Jetson Thor
InstinctFlash — это высокопроизводительный фреймворк для обслуживания робототехнических моделей, позволяющий запускать 5B world-action модели в реальном времени на Jetson Thor. Он обеспечивает ускорение до 33,78× без потери качества задач, поддерживает восемь семейств моделей, включая LingBot-VA, pi05, GR00T N1.7, Cosmos3 и DreamZero. Установка через pip, запуск одной командой, интеграция с Python и WebSocket. Идеально подходит для роботов, автономных систем и edge-устройств.
Мы наблюдали ускорение до 33,78× без заметной потери производительности в наших тестах на реальных роботах.