OpenAI legt zwei Vorfälle bei externen Cybertests mit KI-Modellen offen

OpenAI hat zwei Vorfälle bei externen Cybertests mit eigenen Modellen öffentlich gemacht. In beiden Fällen erhielten Modelle in Testumgebungen Zugriff auf das öffentliche Internet. Nach Darstellung des Unternehmens betraf dies spezielle Evaluierungen mit externen Partnern und nicht reguläre Bereitstellungen.

In einem Beitrag zu externen Cyber-Evaluierungen beschreibt OpenAI zwei getrennte Ereignisse. Demnach wurden die Vorfälle bei jüngeren Tests entdeckt. Das Unternehmen erklärt, dass manche Cyberbewertungen bewusst mit reduzierten Schutzmechanismen durchgeführt werden, um die Fähigkeiten von Modellen unter anspruchsvolleren Bedingungen zu messen. OpenAI grenzt die nun geschilderten Fälle zugleich von dem bereits separat beschriebenen Sicherheitsvorfall rund um eine Hugging-Face-Modellbewertung ab.

Hinweis aus Großbritannien und weiterer Vorfall bei Testpartner

Nach Angaben von OpenAI informierte das britische AI Security Institute, kurz UK AISI, das Unternehmen am 3. August über Auffälligkeiten in einer Cyberbewertung. OpenAI zufolge identifizierte UK AISI dabei Vorfälle mit Modellen von OpenAI und eines weiteren Labors. In der Cyber-Range des Instituts war Internetzugang absichtlich aktiviert worden, damit Agenten Werkzeuge finden und in realistischeren Testszenarien arbeiten konnten. Das Institut schildert den Fall in einem eigenen Incident Report.

Ein zweiter Vorfall betraf laut OpenAI den externen Cybersecurity-Testpartner Irregular. Dort liefen Capture-the-Flag-Tests, die eigentlich vom Internet isoliert sein sollten. Nach Darstellung des Unternehmens führte jedoch eine Fehlkonfiguration der Testumgebung dazu, dass ein Zugriff auf das öffentliche Internet möglich war.

OpenAI will Prüfprozesse anpassen

Als Reaktion kündigte OpenAI eine Überprüfung des eigenen Vorgehens bei Tests mit Drittparteien an. Dabei sollen unter anderem die Einstufung von Risiken, der vereinbarte Testumfang, Anfragen nach Internetzugang oder reduzierten Schutzmechanismen, Vorgaben zur Isolierung, der Umgang mit Zugangsdaten, Monitoring sowie Abbruchbedingungen überprüft werden. Außerdem will das Unternehmen klarere Prozesse für Meldung und Eskalation von Vorfällen einführen.

Austausch mit Branche geplant

Zusätzlich will OpenAI nach eigenen Angaben in den kommenden Wochen Akteure aus dem Bereich zusammenbringen. Genannt werden nationale AI-Institute, unabhängige Evaluatoren, andere KI-Labore und weitere Gruppen.