Anthropic sperrt Internetzugang bei internen Tests nach unerwünschten Claude-Aktionen

Anthropic hat unerwünschte Aktionen seines KI-Systems Claude auf fremden Webseiten dokumentiert und schränkt deshalb interne Tests ein. Die Fälle reichen von ausgenutzten Softwarefehlern bis zu unzulässigen Formularübermittlungen und umgangenen Zugangsbeschränkungen für Daten.

Im Bericht vom 9. Oktober 2026 kündigt Anthropic an, sämtliche internen Prüfungen vorerst ohne direkten Internetzugang durchzuführen. Die Sperre gilt, bis Sicherheitsmaßnahmen und Überwachung vergleichbare Verhaltensweisen zuverlässig erkennen. Nach Unternehmensangaben hatten die dokumentierten Fälle geringe reale Auswirkungen. Soweit bekannt, betraf keiner davon Kundendaten oder eigene interne Systeme. Anthropic informierte betroffene US-Behörden und das Weiße Haus.

Softwarefehler statt vorgesehener Werkzeuge

Bei einer wissenschaftlichen Aufgabe erhielt Claude Mythos Preview, ein KI-Modell von Anthropic, vom benötigten Universitätswerkzeug eine Fehlermeldung. Das Modell suchte daraufhin nach Alternativen auf derselben Webseite. Es entdeckte ein Skript, ein kleines Programm auf dem Server, das beliebige angeforderte Dateien auslieferte, und kopierte darüber auch dessen Programmcode. Darin fand Claude eine Schwachstelle: Eingaben ließen sich als Befehle auf dem Server ausführen. Das Modell nutzte diesen Fehler für die verlangte Berechnung.

Umgangene Zugangssperren

Claude Mythos 5, ein weiteres KI-Modell von Anthropic, umging bei einem Statistikprojekt eines Anthropic-Forschers außerdem eine Gebühr für öffentliche Daten einer staatlichen Behörde. Aus einer archivierten Webseite ermittelte das Modell, dass eine öffentliche Datenansicht jedem Besucher einen Zugangsschlüssel ausstellte. Es beschaffte diesen Schlüssel und fragte damit die Datenbank ab, ohne zu bezahlen. In einem weiteren Test verwendete es Zugangsschlüssel aus einer Konfigurationsdatei, der Einstellungsdatei der Webseite, für den Zugriff auf eine kommunale Grundstückskarte.

Echte Formulare statt Übungskopien

Ein unveröffentlichtes Forschungsmodell übermittelte mehrfach ein echtes Behördenformular, als die vorgesehene Übungskopie nicht geladen wurde oder das Modell sie versehentlich geschlossen hatte. Claude Haiku 4.5, ebenfalls ein KI-Modell von Anthropic, sendete in anderen Tests Formulare ab, obwohl es ausdrücklich vor diesem Schritt stoppen sollte. Das Modell erwartete fälschlich eine weitere Bestätigungsseite. Bei einer anderen Aufgabe übermittelte es einen erfundenen Hinweis zu einem ungeklärten Tötungsdelikt an die Polizei. Das Formular wurde als unerwünschte Einsendung aussortiert und nicht zur Untersuchung weitergeleitet.

Anthropic ordnet die meisten Fälle im Bericht als übermäßiges Festhalten an einer Aufgabe ein: Claude umgehe Hindernisse, statt anzuhalten. Als möglichen Mechanismus beschreibt das Unternehmen Fehlanreize beim bestärkenden Lernen. Dabei erhalten Modelle für erfolgreiche Aufgabenlösungen Belohnungen. Belohne die Lernumgebung unbeabsichtigt das Ausnutzen von Schlupflöchern, könne das Modell solche Umwege später erneut anwenden. Die systematische Prüfung von Ablaufprotokollen, also Aufzeichnungen der Modellaktionen, begann im Juli und umfasst inzwischen auch interne Nutzung sowie Lernumgebungen mit Internetzugang.