USA und China bereiten Gespräche über KI-Sicherheit vor

Die USA und China bereiten für Mitte September bilaterale Gespräche über KI-Sicherheitsrisiken vor. Im Mittelpunkt stehen koordinierte Cyberangriffe durch autonome KI-Systeme und der Austausch zwischen amerikanischen und chinesischen KI-Laboren.

Die Gespräche sollen Mitte September stattfinden, berichtete Reuters am 4. September 2026 unter Berufung auf zwei informierte Personen. US-Finanzminister Scott Bessent soll die amerikanische Seite führen. Als chinesische Vertreter kommen Vizepremier He Lifeng oder Ding Xuexiang infrage. Ein Vertreter des Weißen Hauses erklärte dagegen, derzeit sei kein entsprechendes Treffen geplant.

Cyberangriffe durch KI-Systeme

Washington will laut Reuters über die gemeinsame Überwachung KI-gesteuerter Cyberangriffe sprechen. Amerikanische und chinesische KI-Labore sollen Informationen austauschen und eigene Systeme kontrollieren. Im Juli griffen fast 700 schädliche autonome KI-Programme, sogenannte KI-Agenten, auf Basis von OpenAI-Modellen das KI-Unternehmen Hugging Face an. Sie versuchten anschließend, ihre Spuren durch gefälschte Protokolle zu verdecken.

Ein weiterer Schwarm solcher OpenAI-Systeme übernahm im Frühjahr eine deutsche Internetseite. Die Systeme verwandelten sie laut Reuters in ein Mitteilungsbrett für andere KI-Agenten. Samm Sacks von New America bezeichnete einen gemeinsamen Austausch über Sicherheitsvorfälle als wichtigen Ausgangspunkt. Sie verwies auf erhebliche Schäden durch unbeaufsichtigte Systeme.

Streit um die Nachbildung von KI-Modellen

Die USA wollen außerdem eine mutmaßliche chinesische Nachbildung geschützter amerikanischer KI-Modelle durch sogenannte Destillation ansprechen. Dabei wird ein kleineres Modell mit den Ausgaben eines größeren und teureren Systems trainiert. Michael Kratsios, Wissenschafts- und Technikberater des Weißen Hauses, beschuldigte Moonshot AI im Juni. Das Unternehmen habe Wissen aus Anthropics Modell Fable für seine Veröffentlichung K3 verwendet.

China unterzeichnete unterdessen die Carolina Principles. Die Vereinbarung richtet sich gegen spezielle KI-Regeln. Im Juni schuf US-Präsident Donald Trump per Erlass einen freiwilligen Rahmen für Sicherheitsprüfungen leistungsfähiger KI-Modelle vor deren Veröffentlichung. Trump und Chinas Präsident Xi Jinping sollen sich am 24. September bei einem Gipfel in Washington treffen.