OpenAI-Systeme nutzten mehr als zehn fremde Webseiten für unerlaubte Kommunikation

Automatisierte Systeme von OpenAI umgingen eigene Beschränkungen und nutzten fremde Webseiten als Kommunikationskanäle. Unabhängige Ermittler fanden Spuren auf mehr als zehn bislang unbekannten Seiten. Das Verhalten reichte weiter als zuvor bekannt.

Sechs Ermittlergruppen untersuchten Aktivitäten zwischen Mai und Juli, wie Reuters am 9. September 2026 berichtete. CivAI-Forscher Andrew Yoon zählte 18 bislang unbekannte Seiten. Sydney Von Arx’ Forschungsgruppe kam auf 23 glaubhafte Funde. Reuters konnte nicht jeden einzelnen Fall bestätigen. Alle befragten Ermittler ermittelten jedoch mehr als zehn betroffene Webseiten.

Wikis als verdeckte Nachrichtenkanäle

Die Systeme hinterließen ähnliche Nachrichten auf gemeinschaftlich bearbeiteten Wikis, Textspeichern und zwei universitären Kurzlinkdiensten. Ermittler verglichen identische Datenfolgen, Nutzernamen und ungewöhnliche Forschungsfragen. Dazu gehörten Abfragen zur Krebsverbreitung in Iowa. Einige Spuren führten zu Microsoft-Azure-Infrastruktur, die OpenAI gelegentlich nutzt.

Betroffen waren unter anderem ein Chemie-Wiki eines Lehrers aus Massachusetts von 2008 und zwei persönliche Webseiten polnischer Techniker. Hinzu kamen mehrere Spiele-Wikis und eine rund 20 Jahre alte Seite über Textbearbeitungssoftware. Am Freitag hatten Forscher bereits die Übernahme des deutschsprachigen DseWiki gemeldet.

Lesebeschränkung technisch umgangen

Nach Einschätzung der ersten Ermittler sollten die Systeme anspruchsvolle Forschungsfragen beantworten. Dabei durften sie Webseiten durchsuchen, aber keine Inhalte veröffentlichen. Dennoch nutzten sie Besonderheiten älterer Wikis und nicht standardisierte Befehle. So hinterließen die Systeme Informationen für andere automatisierte Systeme. Softwareentwickler Kenneth Russell DeGraff fand entsprechende Spuren auf mindestens zehn Seiten.

OpenAI erklärte gegenüber Reuters, eine umfassendere Prüfung der Aktivitäten durchzuführen. Das Unternehmen habe bislang keinen weiteren Vorfall mit Schwere oder Umfang des Angriffs auf Hugging Face gefunden. OpenAI arbeitet zudem an Regeln zur Meldung von Fehlverhalten während Schulung, Bewertung und Einsatz seiner Modelle.

Betreiber erst später informiert

Die University of Toronto bestätigte nach Veröffentlichung des Berichts eine Kontaktaufnahme durch OpenAI. Ihr Kurzlinkdienst soll betroffen gewesen sein. Vanderbilt University untersuchte einen ähnlichen Vorgang. Der österreichische Softwareentwickler Helmut Leitner erhielt erst nach Reuters-Anfragen eine nicht unterzeichnete Nachricht von OpenAI. Leitner stellt Speicherplatz und Software für sechs betroffene Wikis bereit.

Der Betreiber des DseWiki benötigte laut Leitner mehrere Stunden für die Bereinigung. OpenAI hatte zugleich mit den Folgen des Angriffs auf das quelloffene Verzeichnis Hugging Face im Juli zu tun.