OpenAI führt Zero Data Retention für berechtigte API-Kunden von Frontier-Modellen ein

OpenAI bietet berechtigten API-Kunden für Frontier-Modelle künftig Zero Data Retention an. Damit sollen Prompts und Modellantworten nach der Verarbeitung nicht gespeichert werden. Gleichzeitig kündigt das Unternehmen mit Private Safety Processing eine Vorschau auf ein Sicherheitsverfahren an, das Risiken über mehrere Interaktionen hinweg erkennen soll, ohne dass Mitarbeiter die Inhalte einsehen.

Wie OpenAI in einem Beitrag auf der Unternehmenswebsite mitteilt, bedeutet Zero Data Retention (ZDR), dass Prompts und Modellantworten nach Abschluss einer Anfrage nicht gespeichert werden. Außerdem sollen diese Inhalte OpenAI-Mitarbeitern nicht zur Prüfung zur Verfügung stehen. Unternehmensdaten würden zudem nicht zum Training der Modelle verwendet, sofern Kunden dem nicht ausdrücklich zustimmen.

Sicherheitsprüfung über mehrere Interaktionen

Zugleich stellte OpenAI eine Vorschau auf Private Safety Processing vor. Das Verfahren soll laut Unternehmen Muster über zusammenhängende Interaktionen hinweg erkennen. Bisherige ZDR-kompatible Sicherheitssysteme bewerten demnach einzelne Interaktionen isoliert. OpenAI argumentiert, dass sich schwerwiegende Risiken oft erst über mehrere Anfragen hinweg erkennen lassen. Als Beispiele nennt das Unternehmen wiederholte Tests von Schutzmechanismen, koordinierte Aktivitäten über mehrere Konten sowie Agenten, die nach einer Stopp-Anweisung weiterhandeln.

Private Safety Processing soll solche Muster erkennen, ohne dass OpenAI-Personal den zugrunde liegenden Inhalt sieht. Nach Darstellung des Unternehmens bleibt Kundeninhalt bei ZDR-Installationen auf einer Infrastruktur unter Kontrolle des Kunden. Zusätzlich arbeitet OpenAI an einer Option, bei der Inhalte auf OpenAI-Infrastruktur gespeichert werden, aber mit Schlüsseln des Kunden verschlüsselt sind. OpenAI-Mitarbeiter hätten dabei keine Kopie dieser Schlüssel.

Nur begrenzte Signale bei erkannten Risiken

Wird ein Risiko erkannt, erhält OpenAI nach eigenen Angaben lediglich ein eng definiertes Signal über die Art der Aktivität. Dieses Signal entspreche dem Prinzip bestehender Sicherheitssysteme. Auch bei einer Markierung erhalte OpenAI keinen Zugriff auf Prompts oder Antworten. Kunden könnten Warnungen und Durchsetzungsentscheidungen anhand der ihnen verfügbaren Informationen untersuchen.

Angebot als Vorschau

OpenAI beschreibt Private Safety Processing als Vorschau. Das Unternehmen positioniert den Ansatz als Möglichkeit, Datenschutzanforderungen und Sicherheitsmechanismen für leistungsfähigere KI-Systeme miteinander zu verbinden.