NVIDIA、Nemotron 3.5 Lightningでエージェント型AIのタスク完了速度を30%高速化

Nvidia Nemotron 3.5 lightning and NeMo Switchyard

NVIDIAは、オープンモデル「Nemotron 3.5 Lightning」と、モデルルーティング用のオープンソースライブラリ「NeMo Switchyard」を発表した。Nemotron 3.5 Lightningは300億パラメータのMoEモデルで、同クラス比4倍の出力速度と30%のタスク完了時間短縮を実現。NeMo Switchyardは、各リクエストを最適なモデルに自動ルーティングし、品質を維持しながらコストを最大3分の1に削減する。CrowdStrike、Harvey、CodeRabbitなどが採用し、ローカル実行にも対応する。