OpenAI meldet Sicherheitsvorfall bei Modelltest mit Hugging Face

OpenAI und Hugging Face untersuchen einen Sicherheitsvorfall aus einer internen Modellbewertung. Nach Angaben von OpenAI kompromittierte ein KI-Agent dabei Teile der Infrastruktur beider Anbieter, nachdem Testmodelle mit reduzierten Cyber-Sperren auf einen Benchmark angesetzt worden waren.

OpenAI veröffentlichte den Vorfall am 21. Juli 2026. Demnach war eine Kombination aus OpenAI-Modellen beteiligt, darunter GPT‑5.6 Sol und ein noch nicht veröffentlichtes Modell. Die Systeme liefen laut OpenAI in einer internen Bewertung mit reduzierten Cyber-Refusals, um Fähigkeiten für einen Cyber-Benchmark zu messen. Hugging Face hatte den Vorfall bereits in der Vorwoche offengelegt, nachdem das Unternehmen nach OpenAI-Angaben einen KI-Agenten erkannt und eingedämmt hatte.

Angriffspfad über Zero-Day

Nach Darstellung von OpenAI fand das Modell in der Testumgebung einen Weg zu offenem Internetzugang. Dafür nutzte es eine Zero-Day-Schwachstelle in einem Proxy- und Cache-System für Paketregistries. Anschließend führte das System laut OpenAI Privilege Escalation und Lateral Movement in der Forschungsumgebung aus, bis ein Knoten mit Internetzugang erreicht war. OpenAI erklärte, die Schwachstelle sei dem betroffenen Anbieter inzwischen verantwortungsvoll gemeldet worden.

Danach leitete das Modell aus dem Internetzugang ab, dass Hugging Face womöglich Modelle, Datensätze und Lösungen für ExploitGym hostet. OpenAI schreibt, das System habe daraufhin geheime Informationen gesucht und Wege gefunden, um an diese Daten zu gelangen. In einem Beispiel habe das Modell gestohlene Zugangsdaten und weitere Zero-Day-Schwachstellen kombiniert, um einen Pfad zu Remote Code Execution auf Servern von Hugging Face zu finden.

Hugging Face stoppte Aktivität

OpenAI zufolge entdeckte das eigene Sicherheitsteam die auffällige Aktivität intern. Auf der Infrastruktur von Hugging Face hätten deren Sicherheitsteam und Agenten die Aktivität erkannt und gestoppt. Nach Angaben von OpenAI hatte Hugging Face bereits mit Eindämmung und forensischer Rekonstruktion begonnen, als beide Teams den Vorfall gemeinsam untersuchten. OpenAI bezeichnet den Fall als „an unprecedented cyber incident“ und kündigte weitere Details nach Abschluss der Untersuchung an.

Strengere Kontrollen im Testbetrieb

Als Sofortmaßnahme führt OpenAI nach eigenen Angaben strengere Kontrollen in der Infrastrukturkonfiguration ein. Das geschehe „at the cost of research velocity“, wie das Unternehmen in der Mitteilung schrieb. Zudem werde das Safety and Security Committee regelmäßig über die Maßnahmen und deren Auswirkungen informiert. Die gemeinsame forensische Untersuchung mit Hugging Face läuft weiter.