Britisches Institut prüft neueste KI-Modelle auf Sicherheitsrisiken

Das britische Institut für KI-Sicherheit, eine staatliche Einrichtung zur Prüfung von KI-Systemen auf Risiken, prüft die neueste Generation leistungsfähiger KI-Modelle. Dabei arbeitet es mit der US-Regierung und großen Entwicklern zusammen, darunter Google.

KI-Minister Kanishka Narayan sagte am Montag, dem 12. Oktober 2026, die Wissenschaftler untersuchten unter anderem Gemini 4 Argon von Google. Laut dem Bericht von Reuters sollen die Prüfungen Risiken frühzeitig erkennen und die Wirksamkeit von Schutzmaßnahmen überprüfen.

Freiwillige Vereinbarungen ermöglichen frühe Prüfungen

Auf Grundlage freiwilliger Vereinbarungen mit großen KI-Entwicklern erhält das Institut Zugang zu Modellen vor deren Einführung. Es kann dadurch ihre Fähigkeiten und Risiken bewerten und an der Entwicklung internationaler Sicherheitsstandards mitwirken. Großbritannien, das keinen großen KI-Entwickler beheimatet, strebt eine führende Rolle beim Umgang mit den Risiken zunehmend leistungsfähiger KI an.

Die Aufmerksamkeit für KI-Sicherheit hat zugenommen, nachdem unter anderem die KI-Entwickler Anthropic und OpenAI Fälle von eigenmächtigem oder unerwünschtem Verhalten bei KI-Assistenten, die selbstständig Aufgaben ausführen, offengelegt hatten. Einige Branchenvertreter warnen zudem vor einer möglichen existenziellen Bedrohung für die Menschheit.

Fragen zu US-Zugangsbeschränkungen bleiben

Die Ankündigung folgt auf Berichte vom September, wonach das Weiße Haus OpenAI und Anthropic aufgefordert habe, britischen Prüfern neue Modelle bis zum Abschluss einer US-Prüfung vorzuenthalten. In einem ebenfalls im September veröffentlichten Brief erklärte das Institut, Anthropic habe klargestellt, dass keine Organisation außerhalb der USA Zugang zu seinem KI-Modell Mythos 5.1 habe.

Einen umfassenderen Verlust des Zugangs zu besonders leistungsfähigen KI-Systemen hatten britische Minister nie bestätigt. Auf Fragen dazu verwies Narayan auf die langjährige, vertrauensbasierte Beziehung zu den USA. Die Abhängigkeit von fremder Technologie erfordere einen nüchternen Blick darauf, wie dauerhaft ein Ergebnis sei. Nach den geführten Gesprächen sei er jedoch zuversichtlich, dass das Institut die neueste Modellgeneration testen könne.

Microsoft-Präsident Brad Smith erklärte in einem am Montag veröffentlichten BBC-Interview, Großbritannien sei gut aufgestellt, bei der Erarbeitung von KI-Sicherheitsrichtlinien eine führende Rolle zu übernehmen, wie Reuters berichtet.