OpenAI meldet automatisierten Forschungspraktikanten

OpenAI hat nach eigenen Messungen das Ziel erreicht, einen automatisierten Forschungspraktikanten bereitzustellen. Das System kann unter menschlicher Leitung klar umrissene Aufgaben übernehmen, für die qualifizierte Forscher mehrere Tage benötigen würden. Bis März 2028 will das Unternehmen deutliche Fortschritte in Richtung eines automatisierten KI-Forschers erzielen.

Das im vergangenen Herbst angekündigte Ziel sei im September dieses Jahres erreicht worden, berichtet OpenAI in einer Veröffentlichung zur Beschleunigung seiner Forschung. Der angestrebte automatisierte KI-Forscher soll unter menschlicher Aufsicht an tiefem Lernen und an der Ausrichtung von KI-Systemen an menschlichen Zielen arbeiten.

Programmierassistenten verändern die Forschungsarbeit

Im Laufe dieses Jahres hat sich die tägliche Arbeit der Forscher laut OpenAI deutlich verändert. Dabei nutzen sie Programmierassistenten über den gesamten Arbeitstag hinweg und häufig in mehreren parallelen Sitzungen. Die Gesamtnutzung steige rasch und stärker als in anderen Teams des Unternehmens.

Dadurch tragen die Forscher schneller Programmcode bei und führen mehr Experimente durch. Die Programmierassistenten übernehmen zunehmend komplexe Aufgaben und bewältigen diese häufiger erfolgreich. OpenAI sieht darin Anzeichen für eine spürbare Beschleunigung des Forschungsfortschritts.

Das Unternehmen schränkt jedoch ein, dass sich der gesamte Forschungsfortschritt wegen möglicher Engpässe voraussichtlich nicht im gleichen Tempo wie diese einzelnen Messwerte entwickeln werde. Menschen legen weiterhin die Forschungsprioritäten fest, beurteilen Ideen und Ergebnisse und entscheiden darüber, ob Systeme ausgeweitet, pausiert oder bereitgestellt werden.

Sicherheit und menschliche Kontrolle bleiben Voraussetzung

OpenAI verbindet automatisierte Forschung mit dem Ziel, fortgeschrittene KI günstiger nutzbar zu machen und die Entwicklung von Schutzmaßnahmen zu unterstützen. Ein automatisierter KI-Forscher könnte nach Einschätzung des Unternehmens auch an Sicherheit und Ausrichtung arbeiten, kritische Infrastruktur schützen und Abwehrmaßnahmen gegen gefährliche KI-Systeme entwickeln.

OpenAI betont zugleich, dass schnelle iterative Selbstverbesserung, also rekursive Selbstverbesserung, bei der ein KI-System sich selbst kontinuierlich weiterentwickelt, nicht zwangsläufig angestrebt werden solle. Das weitere Vorgehen müsse von der Wahrung menschlicher Kontrolle und von informierten demokratischen Entscheidungen über Nutzen und Risiken abhängen. Nach Angaben des Unternehmens ist noch unklar, wie sich eine vollständig ausgerichtete Selbstverbesserung sicher verwirklichen lässt.

Fortschritte bei Sicherheit und Ausrichtung könnten hinter der Entwicklung neuer Fähigkeiten zurückbleiben. Leistungsfähigere Systeme könnten zudem schwerer zu überwachen sein. OpenAI will deshalb Sicherheitsprobleme heutiger automatisierter Programmiersysteme messen und mindern. Diese Programmierassistenten sind von dem umfassenderen Ziel eines automatisierten KI-Forschers zu unterscheiden. Bei unvertretbaren Risiken soll die Entwicklung oder Bereitstellung verlangsamt oder gestoppt werden.