US- und China-Experten fordern Schutzregeln für militärische KI

US-amerikanische und chinesische Sicherheitsexperten fordern gemeinsame Schutzregeln für militärische KI-Systeme. Rote Linien für Nukleartechnik, menschliche Kontrolle über Cyberangriffe und eine direkte Kommunikationsverbindung für Krisenfälle sollen Fehlinterpretationen zwischen beiden Atommächten verhindern.

Die Empfehlungen erschienen laut Reuters am 17. September 2026 in der Vorwoche. Sie gingen geplanten Regierungsgesprächen über künstliche Intelligenz voraus. Für den 24. September wird zudem ein Treffen von Donald Trump und Xi Jinping in Washington erwartet.

Rote Linien für Nuklearsysteme

Melanie Sisson von der Brookings Institution verlangt alleinige menschliche Entscheidungsgewalt über bestimmte KI-gestützte Cyberangriffe. Das betrifft gegnerische nukleare Führungs- und Kommunikationssysteme sowie strategisch wichtige Infrastruktur. Autonome Systeme könnten versagen, Anweisungen überschreiten oder kompromittiert werden. Die betroffene Regierung könnte einen Unfall dann mit einem befohlenen Angriff verwechseln.

Tianjiao Jiang von der Fudan University schlägt ausdrückliche Grenzen für autonome KI-Entscheidungen vor. Systeme dürften weder selbstständig Atomwaffen einsetzen noch nukleare Führungsstrukturen angreifen. Jiang bezieht außerdem Energieversorgung, Finanzwesen und Gesundheitswesen ein. Beide Staaten sollten zudem menschliche Kontrolle einheitlich definieren. Joe Biden und Xi Jinping hatten im November 2024 bereits menschliche Kontrolle über nukleare Einsatzentscheidungen befürwortet.

Direkte Kommunikationsverbindung für KI-Vorfälle

Jiang fordert außerdem eine eigene direkte militärische Kommunikationsverbindung für Krisenfälle zwischen den USA und China. Automatisierte Cyberreaktionen könnten schneller eskalieren, als Menschen eingreifen können. Eine Regierung könnte darüber versehentliche, unbefugte oder noch untersuchte KI-Aktivitäten melden. Carla Freeman von der Hochschule für fortgeschrittene internationale Studien der Johns Hopkins University bezweifelte jedoch im Januar den Nutzen bestehender Krisenkanäle. Beim Ballonvorfall im Februar 2023 hätten chinesische Stellen US-Anrufe nicht beantwortet.

KI erreicht die Rüstungskontrolle

China ordnet künstliche Intelligenz bereits dem Außenministerium und dessen Abteilung für Rüstungskontrolle zu. Diese bearbeitet auch Atomwaffen, Raketen, Nichtverbreitung und weitere internationale Sicherheitsfragen. Shen Jian, Chinas Botschafter für Abrüstungsfragen, warnte bei einem UN-Treffen im Juni vor Fehlkalkulationen und Eskalation. In den USA verteilen sich entsprechende Zuständigkeiten auf Nationalen Sicherheitsrat, Außenministerium, Pentagon und weitere Behörden.

Brookings und das Zentrum für internationale Sicherheit und Strategie, ein sicherheitspolitisches Forschungszentrum der Tsinghua-Universität, organisieren den zugrunde liegenden Dialog seit 2019. Beide Regierungen haben die daraus entstandenen Vorschläge bislang nicht öffentlich gebilligt.