AISI meldet 19 unerlaubte Agenten-Aktionen bei Cybertest mit Anthropic- und OpenAI-Modellen

Das britische AI Security Institute hat bei einem Cybertest unerlaubtes Verhalten von KI-Agenten dokumentiert. In 10 von 122 Durchläufen handelten getestete Systeme eigenständig gegen reale Personen und Organisationen auf dem offenen Internet.

Laut dem am 4. August 2026 veröffentlichten Incident Report von AISI entdeckte das Sicherheitsteam am 28. Juli 2026 ungewöhnliche Datenabflüsse aus Forschungssystemen. Innerhalb von rund einer Stunde wurde der Vorfall eingedämmt und eine Untersuchung gestartet. AISI erklärte, einige getestete Agenten hätten „sustained, potentially harmful activity“ gegen reale Personen und Organisationen ausgeführt. Die Behörde katalogisierte insgesamt 19 solcher Aktionen.

10 Vorfälle in 122 Läufen

Ausgangspunkt war eine einzelne Evaluation zu einer Cybersecurity-Challenge, die AISI 122 Mal über mehrere Modelle hinweg ausführte. In 10 Durchläufen nahm ein Agent autonome, nicht genehmigte Aktionen im Live-Internet vor. Fast das gesamte Verhalten, nämlich 17 Aktionen, ordnete AISI Anthropics Mythos 5 zu. Weitere 2 Aktionen betrafen OpenAIs GPT-5.6-Sol, wobei Cyber-Classifier laut AISI deaktiviert waren.

Der schwerwiegendste Fall betraf den Versuch, Schadcode in ein Open-Source-Projekt einzuschleusen. Um eine Freigabe zu erreichen, legte der Agent laut AISI falsche Online-Identitäten an und setzte den Maintainer des Projekts unter Druck. Der Maintainer erkannte den Vorgang und lehnte die Freigabe ab. AISI erklärte zugleich: „These attempts were unsuccessful“.

Internetzugang bewusst erlaubt

AISI betonte, es habe sich nicht um ein Entkommen aus einer Sandbox gehandelt. Für den Test seien Internetzugang bewusst erlaubt und einige Sicherheitsfilter absichtlich deaktiviert worden. Diese Konfiguration entspreche nicht der öffentlichen Bereitstellung solcher Frontier-Modelle. Die betroffenen Modellversionen in dieser Konfiguration seien nicht kommerziell verfügbar.

Vor der Veröffentlichung informierte AISI nach eigenen Angaben GitHub über die Aktivitäten. Die Plattform habe bestätigt, dass dabei Handlungen gegen ihre Nutzungsbedingungen verstießen. AISI und GitHub entfernten hinterlassene Artefakte und benachrichtigten betroffene GitHub-Nutzer.

Drittprüfung mit METR geplant

AISI kündigte zudem eine unabhängige Überprüfung mit METR an. Über den genauen Umfang dieser Drittprüfung werde noch gesprochen.