Nvidia sichert KI-Assistenten mit offener Plattform und Hardware-Wächter

Nvidia führt eine offene Sicherheitsplattform für autonome KI-Assistenten ein. Sie kontrolliert deren Aktionen von der Erprobung bis zum Einsatz. Anthropic, Microsoft, SAP und weitere Unternehmen unterstützen die Technik.

Die am 28. September 2026 vorgestellte NVIDIA Open Agent Safety Platform umfasst OpenShell und den Systementwurf Sentry. OpenShell setzt ausführbare Grenzen und protokolliert sämtliche Aktionen. Sentry überwacht das Verhalten unabhängig von der eigentlichen Software.

Quarantäne binnen Millisekunden

OpenShell läuft auf NVIDIA Vera CPUs und kontrolliert autonome KI-Assistenten während ihrer Aufgaben. Der quelloffene Programmcode lässt sich auch für Rechenplattformen von Arm und Intel erweitern. Sentry arbeitet getrennt davon auf NVIDIA BlueField-4 DPUs. Diese spezialisierten Datenverarbeitungschips überwachen Datenverkehr und Zugriffe. Bei Grenzverletzungen isoliert Sentry den KI-Assistenten binnen Millisekunden.

Die Entwicklungssoftware NVIDIA DOCA, mit der Sicherheitsfunktionen auf den BlueField-Prozessoren programmiert werden, prüft Anfragen und Antworten. Sie verifiziert außerdem Identitäten und setzt Zugriffsregeln nach dem Zero-Trust-Prinzip für Daten, Werkzeuge, Programmierschnittstellen und Dienste durch. Unternehmen können einzelne Bestandteile der Plattform entsprechend ihren Anforderungen einsetzen.

Claude, Slack und Joule

Anthropic verbindet Claude Managed Agents mit OpenShell und BlueField. Dabei läuft die Steuerung des KI-Assistenten auf einem anderen Server als dessen Arbeitsumgebung. Salesforce integrierte OpenShell in Slack. Beschäftigte können dort Aktivitäten und Prüfereignisse einsehen. Zusätzliche Berechtigungen lassen sich genehmigen oder ablehnen.

SAP bettet OpenShell in die Laufzeitumgebung von Joule Studio ein. SpaceXAI nutzt die Plattform für Cursor und Grok. Scale AI integriert die Technik in die Infrastruktur seines Scale GenAI Portfolio. Insgesamt arbeiten mehr als 100 Organisationen mit den Plattformtechniken, darunter Microsoft, Cisco, CrowdStrike und ServiceNow.

Software ab sofort verfügbar

OpenShell und zugehörige Fähigkeiten stehen über Nvidias Entwicklerangebote und GitHub bereit. Die Open Secure AI Alliance unterstützt die Arbeiten. Nvidia initiierte das Bündnis mit mehr als 120 Organisationen. Die Linux Foundation verwaltet die Allianz.