OpenAI und Anthropic unterrichten UN-Sicherheitsrat über Chancen und Gefahren künstlicher Intelligenz

OpenAI und Anthropic haben den UN-Sicherheitsrat über den Nutzen und die erheblichen Gefahren fortgeschrittener künstlicher Intelligenz unterrichtet. Der Informatiker und Turing-Preisträger Yoshua Bengio warnte vor einer grenzüberschreitenden Bedrohung durch Systeme, die sich menschlicher Kontrolle entziehen könnten.

Die Sitzung des Sicherheitsrats fand am 23. September 2026 statt und befasste sich mit künstlicher Intelligenz und internationaler Sicherheit. Zu den Teilnehmern gehörte OpenAI-Geschäftsführer Sam Altman. Auch Anthropic war an der Unterrichtung beteiligt.

Breiter Einsatz bei wenigen Schutzvorkehrungen

Künstliche Intelligenz wird nach Angaben der Vereinten Nationen bereits in zahlreichen Bereichen eingesetzt, von Klassenzimmern bis zu Schlachtfeldern. Gleichzeitig bestehen bislang nur wenige Leitplanken für die schnell wachsende Technik.

Bengio, der zu den Wegbereitern maschineller Intelligenz gezählt wird, erklärte in indirekter Rede, außer Kontrolle geratene KI stelle eine beispiellose Gefahr für Staaten dar. Kein Land könne eine solche grenzüberschreitende Bedrohung allein eindämmen.

Internationale Zusammenarbeit und wissenschaftliche Aufsicht

Zu den Maßnahmen der Vereinten Nationen gehört der globale Digitalpakt. Er soll die internationale Zusammenarbeit bei der Steuerung digitaler Technik und künstlicher Intelligenz fördern. Zudem unterstützt die UN ein unabhängiges internationales Wissenschaftsgremium für künstliche Intelligenz, das aus unabhängigen Fachleuten für künstliche Intelligenz besteht.

Dieses Gremium rief laut der Veröffentlichung der Vereinten Nationen am 21. September 2026 dazu auf, Schutzvorkehrungen angesichts fortschreitender KI-Systeme anzupassen. Bestehende Sicherheitsbarrieren verlören demnach an Wirksamkeit.

Am 22. September 2026 erklärte der oberste UN-Menschenrechtsvertreter zudem, Kinder sollten zur Zukunft der Technik gehört werden. Sie seien die erste Generation, die mit künstlicher Intelligenz aufwachse, würden bei der Auseinandersetzung über deren Entwicklung jedoch bislang zu wenig gefragt.