Anthropic wirbt für KI-Gesetzentwurf mit hohen Hürden für Modellverbote

Anthropic wirbt im US-Kongress für einen eigenen Gesetzentwurf zur Sicherheit fortgeschrittener KI. Der Vorschlag begrenzt staatliche Eingriffe und würde bestimmte einzelstaatliche Vorschriften verdrängen. Unabhängige Prüfer sollen die Unternehmen und ihre Modelle regelmäßig bewerten.

Das berichtet Politico unter Berufung auf drei mit den Gesprächen vertraute Personen und einen vertraulichen Entwurf. Danach wären Verbote der Veröffentlichung oder Nutzung nur bei vorhersehbaren, unmittelbar bevorstehenden Risiken oberhalb festgelegter Schwellen möglich. Dazu zählen Schäden von mehr als einer Milliarde US-Dollar oder der Tod beziehungsweise schwere Verletzungen von mehr als 50 Menschen. Die Gefahr müsste durch biologische Waffen, Cyberangriffe oder das Umgehen von Entwicklerkontrollen entstehen.

Gericht entscheidet über Modellstopp

Das US-Handelsministerium könnte bei festgestellter Gefahr einen gerichtlichen Antrag auf Aussetzung stellen. Entscheiden dürfte ein Bundesrichter am Bezirksgericht für den District of Columbia. Anderen US-Behörden und Regierungsvertretern untersagt der Entwurf ausdrücklich, Entwicklung, Bereitstellung oder interne Nutzung eines Modells auszusetzen. Im Sommer hatten weitreichende Exportbeschränkungen bereits zwei besonders leistungsfähige Anthropic-Modelle stillgelegt.

Prüfpflichten und Vorrang vor Landesrecht

Unabhängige Prüfer müssten sich beim US-Handelsministerium registrieren und regelmäßig das KI-Unternehmen sowie dessen fortgeschrittene Modelle bewerten. Die Unternehmen dürften diese Prüfungen bezahlen, sofern die Vergütung nicht vom Ergebnis abhängt. Stellen Prüfer eine unmittelbar bevorstehende Gefahr aus den festgelegten Kategorien fest, müssten sie diese binnen 72 Stunden nach Bewertungsabschluss melden.

Anthropics Vorschlag würde einzelstaatliche Vorschriften zur Offenlegung von Risiken, zu unabhängigen Prüfungen und zur Meldung kritischer Vorfälle verdrängen. Branchenverbände argumentieren laut Politico, unterschiedliche Landesgesetze seien schwerer einzuhalten als ein einheitlicher nationaler Standard. Zugleich verpflichtet der Entwurf die Entwickler fortgeschrittener KI zu Sicherheitskonzepten, Transparenzberichten für neue Modelle und Schutzmaßnahmen für Hinweisgeber. Kritische Sicherheitsvorfälle müssten die Unternehmen dem US-Handelsministerium melden.