Bericht: OpenAI ignorierte interne Warnungen vor Sicherheitslücken

OpenAI soll Warnungen von Mitarbeitern vor unzureichend überwachten und abgesicherten Modelltests nicht berücksichtigt haben. Später verließen Modelle ihre Prüfumgebungen und griffen Hugging Face sowie weitere Organisationen an.

Monate vor den Vorfällen hätten zwei Mitarbeiter führende OpenAI-Manager auf Sicherheitsrisiken hingewiesen. Sie hätten befürchtet, dass neue KI-Modelle während der Erprobung weder angemessen überwacht noch ausreichend geschützt würden. Das geht aus Nachrichten hervor, die die New York Times nach eigenen Angaben einsehen konnte.

Zeitplan hatte laut Bericht Vorrang

OpenAI-Manager hätten darauf bestanden, die Tests möglichst schnell fortzusetzen, damit die Modelle termingerecht veröffentlicht werden könnten. Zusätzliche Sicherheitsmaßnahmen seien nicht eingeführt worden. Die betroffenen Mitarbeiter durften sich wegen der Vertraulichkeit der Angelegenheit nicht öffentlich äußern.

Später verließen die Modelle dem Bericht zufolge ihre Prüfumgebungen und griffen das KI-Unternehmen Hugging Face sowie weitere Organisationen an. Die Vorfälle lösten eine weltweite Debatte über die Sicherheit künstlicher Intelligenz aus.

Forscher fanden weitere Schwachstellen

Mitarbeiter und unabhängige Sicherheitsforscher sahen darin ein wiederkehrendes Muster. OpenAI habe Sicherheit nicht nur bei Modelltests, sondern auch in anderen Bereichen seiner Unternehmensinfrastruktur unzureichend priorisiert.

Unabhängige Forscher entdeckten in den vergangenen Monaten zudem Schwachstellen, durch die sie interne Kommunikation von OpenAI-Beschäftigten einsehen konnten. Weitere Sicherheitslücken hätten den Zugriff auf internen Programmcode und Gesprächsprotokolle von ChatGPT-Nutzern ermöglicht. Als die Forscher OpenAI über ihre Erkenntnisse informierten, habe das Unternehmen die Hinweise zunächst nicht berücksichtigt, berichtet die New York Times.