Anthropic und Accenture wollen jeweils mindestens eine Milliarde US-Dollar in unabhängige KI-Prüfungen investieren

Anthropic und Accenture wollen unabhängige Prüfungen fortgeschrittener KI-Modelle innerhalb von Anthropic aufbauen. Über die kommenden fünf Jahre erwarten beide Unternehmen, dafür jeweils mindestens eine Milliarde US-Dollar in entsprechende Kapazitäten zu investieren.

Die am 18. September 2026 angekündigte Zusammenarbeit wird von Faculty, Accentures auf KI spezialisiertem Geschäftsbereich, geleitet. Vorgesehen sind Bewertungen und gezielte Angriffstests von Modellen, bei denen systematisch nach Schwachstellen gesucht wird, Prüfungen ihrer Ausrichtung sowie Kontrollen der technischen Schutzmaßnahmen.

Interner Zugang für unabhängige Prüfer

Die eingebetteten Prüfer sollen innerhalb von Anthropic arbeiten und einen Zugang erhalten, der mit dem von Beschäftigten vergleichbar ist. Dadurch können sie die Entstehung von Modellen während der Schulung beobachten, Entscheidungen über Entwicklung und Bereitstellung nachvollziehen und direkt mit Mitarbeitern sprechen.

Nach Angaben von Anthropic sollen die Prüfer damit auch die Einhaltung von Sicherheitszusagen kontrollieren, übersehene Risiken erkennen und Vorfälle melden können. Zudem sollen sie die Öffentlichkeit fundierter über Nutzen und Gefahren informieren. Die Verantwortung für die Sicherheit der Modelle verbleibt bei Anthropic.

Regeln und Finanzierung noch ungeklärt

Für eingebettete Prüfungen bestehen bislang keine einheitlichen Vorgaben. Noch offen ist unter anderem, auf welche Informationen Prüfer zugreifen sollen und wie sie ihre Erkenntnisse veröffentlichen. Auch ein dauerhaftes Finanzierungssystem gibt es noch nicht.

Anthropic finanziert die Arbeit von Accenture deshalb unmittelbar. Langfristig hält das Unternehmen gemeinsame Finanzierungstöpfe oder staatliche Mittel für geeignet. Parallel führt Anthropic Gespräche mit der gemeinnützigen Prüforganisation METR und weiteren gemeinnützigen Prüforganisationen über Versuche mit eigener Finanzierung.

Die Vereinbarung mit Accenture ist nicht exklusiv. Anthropic will in den kommenden Wochen weitere Prüforganisationen bekannt geben. Accenture kann vergleichbare Aufgaben auch für andere KI-Entwickler übernehmen. Nach Anthropics Vorstellung sollen Entwickler fortgeschrittener KI künftig gleichzeitig mit mehreren Prüforganisationen nach gemeinsamen Standards arbeiten.