Team Human fordert internationales Abkommen zur Begrenzung der KI-Entwicklung

Die Initiative Team Human fordert internationale Grenzen für die Entwicklung besonders leistungsfähiger KI. Bekannte Videoproduzenten unterstützen die Unterschriftenkampagne, die Regierungen zu gemeinsamen Sicherheitsregeln bewegen soll. Im Mittelpunkt steht die Kontrolle durch Menschen.

Nach Angaben von Team Human unterstützen Videoproduzenten mit zusammen mehr als 300 Millionen Abonnenten die Kampagne. Zu den Unterzeichnern gehören Mark Rober, der Videokanal Kurzgesagt und Rebecca Zamolo. Das Zentrum für KI-Sicherheit unterstützt die Initiative. Die Organisation soll gesammelte Unterschriften im Herbst an Gesetzgeber in Washington D.C. und Brüssel übergeben.

Chipkontrollen und internationale Aufsicht

Team Human verlangt einen Entwicklungsstopp für KI, die menschliche Fähigkeiten übertrifft, bis Wissenschaft und Öffentlichkeit zustimmen. Wissenschaftler müssten die sichere Entwicklung bestätigen; die Bevölkerung müsse deren Fortsetzung billigen. Die Initiative fordert außerdem Kontrollen spezialisierter Chips, die für das Training besonders leistungsfähiger KI-Modelle benötigt werden. Regierungen sollen dadurch begrenzen können, wie und wann neue Systeme entstehen.

Die USA, China und weitere große Staaten sollen nach Vorstellung von Team Human gemeinsam echte Sicherheitsstandards durchsetzen. Als Vorbild für eine internationale KI-Aufsicht nennt die Initiative die Internationale Atomenergie-Organisation. Diese überwacht weltweit die Einhaltung nuklearer Verpflichtungen. Team Human verweist außerdem auf internationale Vereinbarungen zur Begrenzung von Atomwaffen und zum Schutz der Ozonschicht.

Videoproduzenten organisieren die Kampagne

Team Human erklärt, kein Videoproduzent habe Geld für die Unterzeichnung oder Teilnahme erhalten. Das Zentrum für KI-Sicherheit habe unabhängig davon Videos über KI-Sicherheit finanziert. Solche Beiträge müssten ihre Finanzierung deutlich kennzeichnen. Als Gründungsorganisatoren nennt die Initiative Mario Joos, Oliver Gilpin und Drew Spartz.