OpenAI-Forscher mahnt zu äußerster Vorsicht bei wachsender Maschinenintelligenz

Ein OpenAI-Forscher warnt vor den Folgen rasch wachsender Maschinenintelligenz. Interne Ergebnisse ließen erwarten, dass KI-Systeme künftig zunehmend ihre eigene Entwicklung vorantreiben könnten. OpenAI wolle deshalb Schutz- und Überwachungsverfahren weiterentwickeln und eine weitere Vergrößerung der Systeme bei Bedarf einseitig aussetzen.

In einem aktuellen Beitrag von OpenAI schildert der Autor Erkenntnisse aus dem Forschungsprojekt RLSlow. Dessen erste Ergebnisse hätten Mitte 2023 das Vertrauen gestärkt, dass sich das Training von Modellen zum Schlussfolgern vergrößern lasse. Gemeint sind KI-Systeme, die beim Bearbeiten von Aufgaben eigene gedankliche Zwischenschritte bilden können.

Drei Jahre später seien solche Sprachmodelle ein schnell wachsender Teil der Wirtschaft und begännen, wissenschaftliche Grenzen zu verschieben. Sie könnten Computer und grafische Bedienoberflächen bedienen, mit Menschen sowie anderen Systemen zusammenarbeiten und Forschungsprojekte ausführen. Zugleich veränderten sie die Computersicherheit und verursachten dabei neue Gefahren.

Systeme könnten ihre Entwicklung zunehmend selbst vorantreiben

Interne Ergebnisse begründeten laut dem OpenAI-Beitrag die Erwartung, dass das derzeitige Entwicklungstempo bis zu einer rekursiven Selbstverbesserung anhalten könnte. Damit ist ein Vorgang gemeint, bei dem KI-Systeme ihre eigene Weiterentwicklung zunehmend unterstützen und dadurch weitere Verbesserungen ermöglichen.

Setze sich die Entwicklung auf ihrem gegenwärtigen Weg fort, seien in den kommenden Jahren weitere Fähigkeitssprünge gleicher oder größerer Größenordnung wahrscheinlich. Gemeint sind deutliche Zuwächse bei den Fähigkeiten der Systeme. Der Autor äußert die Sorge, dass niemand auf die Folgen eines anhaltenden schnellen Anstiegs der Maschinenintelligenz vorbereitet sei.

Rechenleistung als wichtiger Entwicklungstreiber

OpenAI habe bereits um 2017 in mehreren Forschungsprojekten beständige Fortschritte durch eine Vergrößerung der eingesetzten Rechenleistung beobachtet. Daraufhin habe sich das Unternehmen Zugang zu erheblich mehr Rechenkapazität verschafft als ursprünglich geplant und seine Forschung zunehmend auf wenige, stark vergrößerbare Ansätze ausgerichtet.

Neue Verfahren und die Leistungen einzelner Forscher und Arbeitsgruppen ordnet der Autor weitgehend als Entdeckungen auf diesem Weg ein. Bedeutende algorithmische Fortschritte stünden häufig in Zusammenhang mit dem Zugang zu Rechenleistung. Über mehrere Jahre betrachtet würden KI-Systeme demnach leistungsfähiger, wenn ihr Training auf größere Rechner ausgeweitet werde.

Gesamtverhalten bleibt nur begrenzt verständlich

Dem Beitrag zufolge werden KI-Systeme eher durch Training hervorgebracht als vollständig entworfen. Ein vergleichsweise geradliniger Optimierungsschritt werde dafür auf einer kaum vorstellbaren Menge an Rechenleistung sehr häufig wiederholt. Daraus entstünden äußerst komplexe Systeme, die abstrakte Begriffe verarbeiten und Teile menschlichen Verhaltens nachbilden könnten.

Einzelne Mechanismen innerhalb solcher Systeme ließen sich ähnlich wie Vorgänge in der Neurowissenschaft untersuchen. Ihr Gesamtverhalten könne jedoch nicht vollständig verständlich beschrieben werden. Große Trainingsläufe seien grundsätzlich Experimente, deren Ergebnisse mitunter überraschten. Je leistungsfähiger die Systeme würden, desto schwieriger werde außerdem die Deutung dieser Ergebnisse.

OpenAI erwägt einseitige Begrenzung

OpenAI wolle weiterhin technische Lösungen für die Ausrichtung der Systeme an menschlichen Zielen und für ihre Überwachung suchen. Außerdem solle das Unternehmen defensive Systeme aufbauen und die weitere Vergrößerung der KI-Systeme bei Bedarf einseitig zurückhalten. Der Autor ist der Ansicht, dass umfassendere Eingriffe erforderlich sind, und mahnt angesichts der möglichen Folgen zu äußerster Vorsicht.