Nvidia nennt vier Schutzmaßnahmen für den Einsatz von KI-Agenten in Unternehmen

Nvidia hat vier technische Schutzmaßnahmen für KI-Agenten in Unternehmen beschrieben. Der Beitrag reagiert auf wiederkehrende Schwachstellen bei produktiven Agenten, die mit Tools, Code-Ausführung und Unternehmensdaten verbunden sind.

Im Technical Blog vom 30. Juli 2026 nennen Rich Harang und Becca Lynch vom NVIDIA AI Red Team vier typische Ausfallmuster: fehlende Zugriffskontrollen, beliebige Code-Ausführung über Agenten-Tools, fehlende Network-Egress-Kontrollen und im Klartext verfügbare Secrets. Das Team habe in den vergangenen sechs Monaten mehrere KI-Agenten geprüft, von interaktiven Coding-Tools bis zu „always-on autonomous digital assistants“.

Zugriff nur für Berechtigte

Als häufigstes Problem nennt Nvidia fehlende Zugangskontrollen. Laut dem Beitrag fand das Red Team mehrfach Agenten, die Anmeldedaten einzelner Nutzer hielten, aber für jeden autorisierten Nutzer im internen Netzwerk erreichbar waren. Nvidia empfiehlt deshalb starke Zugriffskontrollen als „first line of defense against adversarial activity“. Jeder Agent solle auf ausdrücklich autorisierte Nutzer begrenzt werden, zudem sollen seine Rechte den Rechten des aufrufenden Nutzers folgen.

Code, Netzwerk und Secrets begrenzen

Ein zweites Risiko sieht Nvidia in Tools mit Bash-Shell oder allgemeiner Kommandoausführung. Wenn Modell-Ausgaben direkt Befehle steuern, könne ein Angreifer diese Ausgaben über direkte Eingaben oder indirekte Prompt Injection beeinflussen. Als Gegenmaßnahme nennt der Beitrag Sandboxing, etwa mit Docker oder NVIDIA OpenShell, sowie eine Prüfung von Paketquellen und Tool-Berechtigungen.

Hinzu kommen laut Nvidia restriktive Network-Egress-Regeln und der Ausschluss persistenter Secrets aus der Agenten-Umgebung. Empfohlen wird ein „default-deny network egress“ mit Allowlist nach dem Least-Privilege-Prinzip. Prompt-basierte Schutzmechanismen und LLM-as-a-judge-Verfahren hätten sich gegen Social Engineering, „frog-boiling attacks“ und Irreführung über legitime Workflows als unzuverlässig erwiesen.

Kontrollen außerhalb des Modells

Nvidia leitet daraus ab, dass Schutzmaßnahmen deterministisch und außerhalb der Control Plane des Modells durchgesetzt werden müssen. Der Beitrag verweist dabei auf vier Bausteine: robuste Zugriffskontrollen, sandboxed execution environments, restriktive Netzwerkregeln und Secret-Management ohne Klartext-Zugänge im Agenten-Kontext. Veröffentlicht wurde der Beitrag am 30. Juli 2026 auf developer.nvidia.com.