NVIDIA erweitert Nemotron um offene KI-Modelle für lokale Aufgaben

NVIDIA erweitert seine Nemotron-Familie um offene KI-Modelle für automatisierte Aufgaben auf Unternehmensservern und lokalen Rechnern. Die Modelle verarbeiten Dokumente oder unterstützen Recherche und Programmierung. Unternehmen können eigene Daten zur Anpassung nutzen und Aufgaben ohne Cloud-Anbindung ausführen.

Am 15. Oktober 2026 veröffentlichte NVIDIA Nemotron 3.5 Super VL, ein KI-Modell für Text- und Bildverarbeitung, sowie Nemotron 3.5 Bolt 74B-A9B 24GB. Das größere Modell besitzt 120 Milliarden Parameter, also Rechenwerte, die das Modell beim Training lernt. Es verbindet Textverarbeitung mit Bildverständnis und richtet sich an dauerhaft laufende KI-Assistenten. Nach Anbieterangaben verarbeitet es Webseiten, PDFs, Tabellen und Diagramme. Dabei kann es Text erkennen und strukturierte Informationen aus Dokumenten auswerten.

Lokale Verarbeitung mit weniger Speicher

Das größere Bolt-Modell benötigt durch eine native 2-Bit-Quantisierung nur 24 Gigabyte Speicher. Dieses Verfahren reduziert die Genauigkeit der Zahlendarstellung und damit den Speicherbedarf. NVIDIA sieht den Einsatz auf Systemen mit NVIDIA-RTX-Grafikkarten und auf DGX Spark vor. Neben anderen Anwendungen soll das Modell Recherche, Schreibaufgaben und Fehlersuche in Programmcode lokal erledigen. Unterstützt werden unter anderem Ollama und LM Studio, Programme zum lokalen Betrieb von KI-Modellen.

Eigene Daten für spezialisierte Aufgaben

Super VL erscheint mit offenen Modellgewichten, also frei zugänglichen, gelernten Modellparametern, sowie Datensätzen und Anleitungen zum Modelltraining. Unternehmen können es auf eigener Infrastruktur betreiben und mit eigenen Daten weitertrainieren. NVIDIA nennt bereits konkrete Anpassungen: Das Unternehmen Scale AI bearbeitete das Modell für EY zur Prüfung von Unternehmensübernahmen. AfterQuery passte es für das Unternehmen Hebbia zur Analyse von Kreditverträgen an. Atlassian integriert es für die anwendungsübergreifende Suche, etwa in Jira und Confluence, Software für Projektverwaltung und Wissensdokumentation.

Für den Unternehmenseinsatz bietet NVIDIA das Modell außerdem über NIM an, eine vorbereitete Softwarekomponente mit geprüften Konfigurationen und Unterstützung. Sicherheitskorrekturen und Leistungsverbesserungen sollen im Abstand von zwei Wochen erscheinen. Die kleinere Variante Nemotron 3.5 Bolt E4B 4GB richtet sich an lokale Sprachassistenten und eingebettete Bedienoberflächen. Sie soll am 23. Oktober folgen.