UN-Menschenrechtschef Türk fordert strengere Kontrolle fortgeschrittener KI

UN-Menschenrechtschef Volker Türk fordert Staaten und führende KI-Unternehmen zum sofortigen Handeln auf. Unabhängige Prüfungen sollen nach seiner Forderung Menschenrechtsrisiken fortgeschrittener und selbstständig handelnder KI-Systeme begrenzen.

Türk richtete seinen Appell am 14. September 2026 in einem Schreiben an Staaten und KI-Entwickler. Besonders angesprochen sind Unternehmen, die besonders leistungsfähige KI-Modelle entwickeln. Nach seiner Einschätzung hält die Regulierung nicht mit deren beschleunigter Entwicklung Schritt.

Risiken für kritische Dienste

Selbstständig handelnde KI-Systeme, die eigenständig Aufgaben ausführen können, ohne dass ein Mensch jeden Schritt steuert, könnten laut Türk wesentliche Dienste lahmlegen, Kommunikationswege unterbrechen sowie kritische Infrastruktur und demokratische Institutionen gefährden. Ganze Bevölkerungen könnten den Zugang zu sauberem Wasser, Heizung oder Finanzdiensten verlieren. Solche Systeme beschleunigten bereits die Kriegsführung und schwächten Schutzmechanismen gegen den Einsatz von Massenvernichtungswaffen.

Türk verwies am Montag zudem auf bereits bestehende Schäden. Automatisierte Grundversorgung benachteilige Menschen am gesellschaftlichen Rand. Der Datenbedarf und neue Überwachungswerkzeuge beeinträchtigten die Privatsphäre in großem Maßstab. KI-gestützte Desinformation verzerre öffentliche Debatten, schwäche den gesellschaftlichen Zusammenhalt und belaste demokratische Institutionen.

Unabhängige Prüfungen gefordert

Führende KI-Unternehmen sollen nach Türks Forderung robuste Menschenrechtsprüfungen mit vereinbarten Sicherheitsstandards einführen und fortlaufend verbessern. Eine intern unabhängige Überwachung solle Transparenz und Rechenschaftspflicht erhöhen. Staaten mit führenden KI-Unternehmen müssten verantwortliches Handeln verlangen und sie andernfalls zur Rechenschaft ziehen.

Türk verlangte außerdem unabhängige Prüfungen der Fähigkeiten dieser Systeme durch technisch qualifizierte Stellen. Prüfer benötigten dafür Zugang zu Modellen, Dokumentationen und Testumgebungen. Staaten sollten über multilaterale Gremien gemeinsame Regeln entwickeln. Grundlage müsse das internationale Menschenrecht bilden.

Gemeinsame Regeln für Spitzenmodelle

Nach Türks Darstellung kann kein Staat fortgeschrittene KI allein regulieren. Einzelne Unternehmen dürften nicht eigenständig festlegen, welche Risiken weltweit akzeptiert werden. Entscheidungen über Entwicklung, Einsatz und Kontrolle müssten offen erfolgen und die Rechte der nun erwachsen werdenden Generation berücksichtigen.