OpenAI fordert verbindliche Sicherheitsregeln für leistungsfähige KI

OpenAI setzt sich für verpflichtende nationale Sicherheitsvorgaben für leistungsfähige KI-Systeme ein. Bis der US-Kongress tätig wird, unterstützt das Unternehmen vier Gesetzesvorhaben in Kalifornien und arbeitet an freiwilligen Branchenstandards.

In einer aktuellen Veröffentlichung zur KI-Politik erklärt OpenAI, gemeinsam mit dem US-Kongress verbindliche nationale Regeln entwickeln zu wollen, die sich an den Fähigkeiten von KI-Systemen orientieren. Zugleich befürwortet das Unternehmen international miteinander vereinbare Verfahren zur Messung von Fähigkeiten, zur Steuerung von Risiken und zur Wahrung menschlicher Kontrolle. Solche Regeln sollen auch festlegen, wann und wie die Entwicklung verlangsamt oder eingestellt werden sollte.

Unterstützung für vier Vorhaben in Kalifornien

Solange eine bundesweite Regelung aussteht, will OpenAI weiterhin Gesetze der US-Bundesstaaten unterstützen, die das Sicherheitssystem für KI stärken. Das Unternehmen nennt vier Vorhaben in Kalifornien: SB 813 betrifft die allgemeine Infrastruktur für unabhängige Sicherheitsbewertungen, AB 1405 Standards für KI-Prüfer, SB 1119 Schutzmaßnahmen für junge Menschen und AB 1864 Vorkehrungen gegen biologische Bedrohungen, die durch KI ermöglicht werden.

Parallel dazu will OpenAI gemeinsam mit anderen führenden KI-Laboren freiwillige Standards für besonders leistungsfähige Systeme voranbringen. Diese Zusammenarbeit soll auch ohne staatliche Unterstützung beginnen. Chefwissenschaftler Jakub Pachocki verweist in einem Beitrag über schnell wachsende maschinelle Intelligenz auf die Risiken möglicher rekursiver Selbstverbesserung und die daraus folgende Notwendigkeit besonderer Vorsicht.

OpenAI will technische Verfahren für die Ausrichtung und Überwachung von Modellen weiterentwickeln, defensive Systeme aufbauen und die Entwicklung bei Bedarf verlangsamen. Nach Darstellung des Unternehmens reichen Schutzmaßnahmen einzelner Labore jedoch nicht aus. Zusätzlich seien gemeinsame Vorgaben erforderlich, einschließlich klarer Kriterien für eine Verlangsamung oder Einstellung der Entwicklung.

Erweiterte Sicherheitsmaßnahmen für Astra

OpenAI hat nach eigenen Angaben Überwachung, Ausrichtung und Sicherheit über den gesamten Ablauf der Modellentwicklung hinweg verstärkt. Dazu gehören eine stärkere Abschottung von Forschungsarbeiten an besonders leistungsfähigen Systemen, eine erweiterte Kontrolle des Modellverhaltens während werkzeuggestützter Schulungen und Bewertungen sowie klarere Regeln für die Weiterleitung von Sicherheitsbedenken.

Für das intern eingesetzte System Astra führte das Unternehmen eine durchgängige Überwachung vollständiger Abläufe, einschließlich interner Gedankengänge, ein. Vor einer breiteren internen Bereitstellung muss Astra außerdem eine verpflichtende Bewertung der Modellausrichtung bestehen.

Greg Brockman beschreibt in seinem Beitrag über das begrenzte Zeitfenster für Verteidiger eine Phase, in der leistungsfähige KI zur Stärkung kritischer Systeme beitragen kann, bevor weitreichende Angriffsmöglichkeiten allgemein verfügbar werden. OpenAI überträgt diesen Gedanken auf die Politik: Dauerhafte Schutzvorkehrungen müssten geschaffen werden, bevor die Fähigkeiten von KI die zuständigen Institutionen überfordern.

Nach Auffassung des Unternehmens sollte das Vertrauen in die Sicherheit mit zunehmender Leistungsfähigkeit stärker das Entwicklungstempo bestimmen. Die vorgeschlagenen politischen und technischen Maßnahmen sollen dazu beitragen, Risiken zu begrenzen und zugleich den gesellschaftlichen Nutzen fortgeschrittener KI zu ermöglichen.