InstinctFlash - ロボティクスモデル向け高性能サービングランタイム

Show HN: InstinctFlash – Run 5B world-action models in real time on Jetson Thor

InstinctFlashは、Jetson Thor上で5Bクラスのworld-actionモデルをリアルタイム実行する高性能サービングフレームワークです。8つのロボティクスモデルファミリーをサポートし、FP8やサンプリングステップ削減により最大33.78倍の高速化を実現。Python APIとWebSocket経由で既存のロボットクライアントからそのまま利用でき、ファインチューニング済みチェックポイントも簡単にデプロイ可能です。