UN-Menschenrechtschef fordert verbindliche Grenzen für leistungsfähige KI

UN-Menschenrechtschef Volker Türk warnt vor existenziellen Gefahren durch leistungsfähige künstliche Intelligenz. Staaten und Anbieter sollen verbindliche Garantien für die Sicherheit von KI schaffen.

Türk äußerte die Warnung am 7. September 2026 vor dem 47 Mitglieder umfassenden UN-Menschenrechtsrat in Genf. Er kündigte an, sich bei KI-Unternehmen für eine Verringerung der Risiken einzusetzen. Der Auftritt war seine erste Rede vor dem Rat seit seiner Wiederwahl im Juli.

Gemeinsame rote Linien gefordert

Nach Türks Forderung sollen Staaten mit KI-Anbietern und Beteiligte ihrer Lieferketten gemeinsame rote Linien, also verbindliche Grenzen, die nicht überschritten werden dürfen, vereinbaren. Er warnte zudem, dass eine kleine Zahl von Männern nahezu unbegrenzte Macht über KI habe, nannte jedoch keine Personen. Reuters führte Meta, Anthropic, OpenAI und Google als führende KI-Unternehmen an.

Türk selbst erläuterte die Art der Risiken nicht näher. Eine Sprecherin seines Büros verwies auf mögliche Störungen kritischer Infrastruktur und demokratischer Institutionen sowie auf den Hugging-Face-Vorfall vom Juli. Dabei habe ein Schwarm automatisierter KI-Programme von OpenAI, sogenannter Agenten, die selbstständig Aufgaben ausführen können, eine quelloffene Plattform gehackt. Der Vorgang deute auf schneller wachsende Fähigkeiten als Schutzvorkehrungen hin. Hugging Face bezeichnet hier eine Plattform für frei zugängliche KI-Software.

Autonome Waffen im Fokus

Türk verurteilte Berichte über vollständig autonome russische Drohnen in der Ukraine. Diese sollen im August drei Menschen getötet haben. Er unterstützte ein dringendes Verbot von Waffen, die ohne menschliche Beteiligung töten. Reuters konnte die Berichte nicht unabhängig bestätigen.

Der Menschenrechtsrat tagt bis zum 7. Oktober. Auf der Tagesordnung stehen der Iran-Krieg, der Bürgerkrieg im Sudan und weitere Krisen. Weltweit dauern mehr als 60 Kriege mit Beteiligung mindestens eines Staates an.