NVIDIA Nemotron 3.5 Lightning: 4x schnellere Ausgabe für KI-Agenten

Nvidia Nemotron 3.5 Lightning and NeMo Switchyard

NVIDIA erweitert seine Nemotron-3-Familie um Nemotron 3.5 Lightning, ein offenes Mixture-of-Experts-Modell mit 30 Milliarden Parametern, das für hochvolumige, spezialisierte Aufgaben in agentischen Systemen entwickelt wurde. Es bietet bis zu 4x schnellere Ausgabe und 30% schnellere Aufgabenabschlüsse. Zusätzlich veröffentlicht NVIDIA NeMo Switchyard, eine Open-Source-Bibliothek für intelligentes Modell-Routing, die Anfragen automatisch an das am besten geeignete Modell weiterleitet und so Kosten und Latenz reduziert. Beide Technologien ermöglichen Unternehmen mehr Kontrolle über KI-Bereitstellung und -Effizienz.