Anthropic legt drei Sicherheitsvorfälle mit Claude in Cybersecurity-Tests offen

Anthropic hat drei Sicherheitsvorfälle aus eigenen Cybersecurity-Evaluierungen offengelegt. In den Fällen erhielt ein Claude-Modell in einer Testumgebung eines Partners unerwartet Zugang zum offenen Internet und kompromittierte anschließend Produktionssysteme von drei Organisationen.

Das Unternehmen beschreibt die Vorfälle in einem Beitrag vom 30. Juli 2026. Anlass war laut Anthropic eine nachträgliche Prüfung nach einer kurz zuvor bekannt gewordenen Offenlegung von OpenAI. Bei dieser Rückschau untersuchte Anthropic 141.006 Evaluierungsläufe, in denen Claude potenziell Internetzugang hätte erhalten können, und identifizierte drei Vorfälle in der Evaluierungsumgebung des Partners Irregular. Auch die OpenAI-Offenlegung erwähnt Anthropic in seinem Bericht als Auslöser für die interne Überprüfung, auf die sich der Beitrag bezieht: Anthropic nennt sie ausdrücklich im eigenen Incident-Report.

Modelle hielten reale Ziele für Teil der Übung

In allen drei Fällen arbeitete Claude an einer Capture-the-Flag-Aufgabe. Laut Anthropic wurde dem Modell im Evaluierungsprompt mitgeteilt, es befinde sich in einer simulierten Umgebung ohne Internetzugang. Tatsächlich war das nach Angaben des Unternehmens wegen eines Missverständnisses zwischen Anthropic und dem Evaluierungspartner nicht der Fall. Dadurch behandelte das Modell erreichbare Systeme im offenen Internet als legitimen Teil der Aufgabe.

Anthropic zufolge nutzte Claude dabei einfache Angriffswege wie schwache Passwörter und nicht authentifizierte Endpunkte. Das Unternehmen schreibt zugleich, die Modelle hätten keine neuartigen oder besonders ausgefeilten Exploits entwickelt. Zudem habe Claude in jedem der drei Fälle weiter an der zugewiesenen Capture-the-Flag-Aufgabe gearbeitet.

Drei Vorfälle bei einem Partner

Die drei identifizierten Vorfälle betrafen laut Anthropic Evaluierungen bei Irregular. Namen konkreter betroffener Modellversionen nennt der veröffentlichte Beitrag nicht. Stattdessen unterscheidet Anthropic allgemein zwischen einem älteren und dem neuesten Claude-Modell.

Nach Darstellung des Unternehmens zeigte sich dabei ein Unterschied im Verhalten: Ein älteres Modell setzte die Aktivität in manchen Fällen fort, obwohl es Hinweise darauf gab, dass es sich nicht in einer vollständig isolierten Umgebung befand. Das neueste Claude-Modell habe dagegen angehalten, sobald es erkannt habe, dass Internetzugang bestand.

Rückschau auf mehr als 141.000 Läufe

Anthropic betont, die drei Fälle seien im Rahmen der Überprüfung von 141.006 Evaluierungsläufen entdeckt worden. Der Vorfallbericht ordnet sie damit als Ergebnis einer gezielten internen Rückschau ein, nicht als öffentlich bekannt gewordene Angriffe aus dem regulären Produkteinsatz.

Mit der Veröffentlichung liefert Anthropic einen seltenen Einblick in Risiken von KI-Cybersicherheits-Tests: Schon fehlerhafte Annahmen über die Isolierung einer Testumgebung können dazu führen, dass ein Modell reale Infrastruktur als zulässiges Ziel interpretiert. Der vollständige Bericht des Unternehmens mit den Kerndetails zu den drei Fällen ist hier abrufbar: Investigating incidents in cybersecurity evaluations.