OpenAI sperrt ChatGPT-Konten im Zusammenhang mit mutmaßlicher Einflusskampagne aus Russland

OpenAI hat nach eigenen Angaben ein Bündel von ChatGPT-Konten gesperrt, das sehr wahrscheinlich aus Russland stammte. Die Konten seien für eine verdeckte Einflusskampagne genutzt worden, die Inhalte für mehrere soziale Netzwerke vorbereitete und ihre russische Herkunft verschleiern sollte.

Wie OpenAI in einer aktuellen Darstellung des Falls erläutert, begann die Untersuchung mit KI-erzeugten Beiträgen in sozialen Netzwerken und weitete sich dann zu einer umfangreicheren Operation aus. Diese habe sich um eine Website gedreht, auf der kopierte und falsch zugeschriebene wissenschaftliche Arbeiten erschienen seien. Hinzu gekommen sei ein Souveränitätsindex, der Russland in ein günstiges Licht gerückt und westliche Staaten abgewertet habe.

Den Angaben zufolge wurden mit den gesperrten Konten Kommentare für Substack, Telegram, X, Facebook und LinkedIn erstellt. Die Betreiber hätten Eingaben auf Russisch verwendet, um überwiegend englischsprachige Beiträge zu erzeugen, und dabei versucht, sprachliche Hinweise auf ihre Herkunft zu vermeiden. Da OpenAI den Zugang zu seinen Modellen aus Russland nicht zulässt, seien dafür VPN-Verbindungen genutzt worden.

Website des International Burke Institute im Februar 2025 registriert

Ein zentraler Bestandteil der Kampagne war laut OpenAI die Bewerbung des International Burke Institute, kurz IBI. Die mit dieser Marke verbundene Website sei im Februar 2025 registriert worden und habe angegeben, das Institut habe seinen Sitz in Israel. OpenAI führt aus, dass die dort veröffentlichten Artikel nicht mit den eigenen Modellen erstellt worden seien. Viele Texte seien aus echten wissenschaftlichen Veröffentlichungen übernommen worden, teils mit falscher Zuschreibung. Andere Beiträge hätten den Eindruck erweckt, zunächst von einem slawischen Sprecher verfasst und anschließend maschinell übersetzt worden zu sein.

Als auffälligen Hinweis beschreibt OpenAI eine in einem Beitrag über Deutschland verwendete Bezeichnung für die Ampelkoalition, die erkennbar auf das slawische Wort für Verkehrsampel zurückgehe. Nach Einschätzung des Unternehmens spreche dies für eine wörtliche maschinelle Übersetzung aus einer slawischen Ausgangssprache und nicht für eine übliche Formulierung im Deutschen oder Englischen.

Kleines Publikum, aber aufwendiger Aufbau

Nach Darstellung von OpenAI erreichte die Kampagne offenbar nur ein eher kleines Publikum. Auffällig sei jedoch der vergleichsweise aufwendige Aufbau. Das Unternehmen ordnet den Fall in seine Arbeit zur Erkennung und Unterbindung verdeckter Einflussoperationen ein und bezeichnet ihn als nach eigenem Kenntnisstand neue, zuvor nicht bekannt gewordene Kampagne.

Als besonders bemerkenswert hebt OpenAI in seinem Bericht zu dem Vorgang den Souveränitätsindex hervor, den die angebliche Denkfabrik genutzt habe, um Russland positiv und westliche Länder negativ darzustellen. Nach Angaben des Unternehmens ist dies der erste von OpenAI gestörte, Russland zugeordnete Fall, der mit einem derart aufwendigen Konstrukt gearbeitet habe.