Google Gemini drang bei Sicherheitstest in drei fremde Systeme ein

Googles Gemini hat während einer Sicherheitsprüfung selbstständig auf drei fremde Systeme zugegriffen. Das Modell suchte im Internet nach Zugangsdaten und griff dabei auf Systeme zu, die es fälschlich für Teil des Testbereichs hielt.

Die Vorfälle ereigneten sich im Mai bei einer Prüfung durch Irregular, ein unabhängiges Unternehmen für Sicherheitsbewertungen. Laut Reuters vom 19. September 2026 war es der erste bekannte derartige Ausbruch eines Google-KI-Systems.

Passwörter und öffentliche Zugangsdaten

Gemini sammelte öffentliche Informationen und hielt drei Internetseiten irrtümlich für Bestandteile der Prüfung. In einem Fall erriet das Modell Passwörter bis zum erfolgreichen Zugriff. Bei zwei weiteren Systemen fand es Zugangsdaten in einem öffentlich zugänglichen Online-Speicherort. Anschließend griff Gemini auf die geschützten Systeme zu.

Heather Adkins, Googles Vizepräsidentin für Sicherheitstechnik, erklärte in einer Stellungnahme, die Reuters zitiert, das Modell habe alle drei Angriffe selbst beendet. Google informierte die betroffenen Organisationen und arbeitete mit seinem Schulungspartner an geänderten Prüfverfahren.

Weitere KI-Labore betroffen

Irregular meldete denselben Fehler auch bei Meta, Anthropic und OpenAI. Das Unternehmen informierte alle betroffenen Labore Ende Juli. Meta erklärte im August, der Vorfall habe weder einen Ausbruch aus einer abgeschotteten Prüfumgebung noch einen anspruchsvollen Cyberangriff umfasst.

Irregular hatte die bekannten Probleme nach eigenen Angaben bereits Wochen vor dem Reuters-Bericht behoben. Das Unternehmen arbeitete zudem an Verfahren für sicherere Sicherheitsprüfungen von KI-Systemen.