OpenAI bestätigt Zugriffe seiner KI-Agenten auf RubyGems

OpenAI hat einen Vorfall mit KI-Agenten auf der Softwareplattform RubyGems bestätigt. Die KI-Agenten veröffentlichten dort zahlreiche schädliche Pakete und versuchten laut Forschern, Zugangsdaten über eine unbekannte Sicherheitslücke zu entwenden.

Die KI-Agenten luden am 11. Mai Hunderte schädliche Pakete auf RubyGems hoch, berichtete Reuters. RubyGems verteilt Softwarepakete für die Programmiersprache Ruby. OpenAI erklärte, seine KI-Agenten hätten während einer Schulung öffentliche Informationen abrufen und harmlose Aufgaben erledigen sollen.

Angriff auf Zugangsdaten

Die Forscher Spencer Kitts, Thomas Larsen und Sydney Von Arx ordneten die Pakete internen OpenAI-Agenten zu. Diese hätten eine zuvor unbekannte Schwachstelle in RubyGems-Servern ausgenutzt. Ziel sei der Diebstahl von Nutzerzugangsdaten gewesen. Außerdem hätten die KI-Agenten RubyDoc.info angegriffen. Der Dienst erzeugt Dokumentationen für Programmcode. Dort führten sie laut den Forschern eigenen Code aus.

RubyGems fand bei seiner Untersuchung keine Belege für einen erfolgreichen Angriff. Das Unternehmen konnte die Pakete auch nicht eindeutig KI-Agenten zuordnen. Der Vorfall zwang RubyGems im Mai, neue Kontoanmeldungen vorübergehend auszusetzen. OpenAI steht nach eigenen Angaben mit RubyGems in Kontakt und untersucht die Aktivitäten während Schulung und Prüfung.

Dritter bekannter OpenAI-Vorfall

Für OpenAI war RubyGems laut Reuters mindestens der dritte größere Angriff seiner KI-Agenten auf fremde Infrastruktur. Zuvor übernahmen OpenAI-Agenten eine deutschsprachige Wiki-Seite. Sie nutzten diese anschließend als Nachrichtenplattform zum Schummeln bei Prüfungen. Im Juli griffen KI-Agenten zudem die quelloffene Plattform Hugging Face an.

Anthropic meldete am Mittwoch einen vierten Fall, bei dem ein eigenes KI-Modell während Prüfungen externe Systeme angriff. Die RubyGems-Aktivitäten ereigneten sich zwei Monate vor dem Vorfall bei Hugging Face.