ISO/IEC 27090: Neuer Leitfaden gegen Angriffe auf KI-Systeme

Die Normungsorganisationen ISO und IEC haben mit ISO/IEC 27090 einen Leitfaden zur Sicherheit von KI-Systemen veröffentlicht. Das Dokument beschreibt KI-spezifische Angriffe, ihre Folgen und mögliche Gegenmaßnahmen. Es ergänzt bestehende Sicherheitsnormen, ermöglicht aber keine Zertifizierung.

Die erste Ausgabe umfasst 56 Seiten und ist nach rund vier Jahren Normungsarbeit erschienen, wie heise online berichtet. Zuständig ist das Unterkomitee JTC 1/SC 27, das auch die Normenreihe ISO/IEC 27000 verantwortet. Anders als eine Norm mit verbindlichen Anforderungen dient ISO/IEC 27090 als Orientierung zur Erkennung und Abwehr von Sicherheitsbedrohungen.

Von manipulierten Trainingsdaten bis zu eingeschleusten Anweisungen

Der Leitfaden behandelt unter anderem die Manipulation von Trainingsdaten und Modellgewichten, also den erlernten Parametern eines KI-Modells. Hinzu kommen Angriffe mit gezielt präparierten Eingaben, die ein Modell täuschen sollen, sowie das Nachbilden von Modellen über Schnittstellen. Auch eingeschleuste Aufgabenanweisungen und Angriffe über Modellausgaben gehören zu den beschriebenen Angriffsklassen.

Ein Anhang ordnet die Angriffe den Phasen des KI-Lebenszyklus und den jeweils betroffenen Ressourcen zu. Ein zweiter erläutert KI-Varianten herkömmlicher Angriffe. Agentische KI-Systeme, die selbst auf Werkzeuge zugreifen können, behandelt die erste Ausgabe allerdings nur am Rande.

Ergänzung zu bestehenden Sicherheitsnormen

ISO/IEC 27090 ergänzt ISO/IEC 27001 und 27002. Der Leitfaden zeigt, wo klassische Sicherheitsmaßnahmen weiterhin greifen und wo Modelle, Trainingsdaten sowie die Abläufe des maschinellen Lernens zusätzlichen Schutz benötigen.

Damit schließt er eine Lücke der ISO/IEC 42001. Diese zertifizierbare Norm regelt ein Managementsystem, also organisatorische Verfahren und Zuständigkeiten für den Umgang mit KI. Ihr Anhang A verlangt Sicherheitsmaßnahmen für KI-Systeme, benennt jedoch keine Angriffe. Das ergänzende Dokument ISO/IEC 27091 zum Schutz der Privatsphäre in KI-Systemen befindet sich im abschließenden Entwurfsstadium.

Keine neue Rechtswirkung für europäische Anbieter

Die Veröffentlichung ändert die europäische Rechtslage nicht. Wie heise zur rechtlichen Einordnung erläutert, begründet ISO/IEC 27090 keine Konformitätsvermutung, also keine rechtliche Vermutung, dass bei Anwendung der Norm die entsprechenden gesetzlichen Anforderungen erfüllt sind. Dies gilt sowohl für die KI-Verordnung als auch für den Cyber Resilience Act, die EU-Verordnung zur Cybersicherheit von Produkten mit digitalen Elementen.

An einer dafür vorgesehenen harmonisierten, also auf europäische Rechtsvorgaben abgestimmten Norm arbeitet das gemeinsame KI-Normungsgremium CEN/CENELEC JTC 21. Dessen Dokument prEN 18282 zur Cybersicherheit von KI-Systemen liegt weiterhin als Entwurf vor. Parallel hat die europäische Normungsorganisation ETSI die technische Spezifikation TS 104 223 veröffentlicht. Eine Zuordnung zwischen diesen beiden Dokumenten und ISO/IEC 27090 existiert bislang nicht.

ISO/IEC 27090 ist ausschließlich auf Englisch erhältlich. Die Ausgabe kostet als PDF oder in gedruckter Form 204 Schweizer Franken.