Google DeepMind gründet Institut für Debatte über allgemeine KI

Google und Google DeepMind haben ein Institut für die Debatte über allgemeine künstliche Intelligenz gegründet, also über Systeme mit breit angelegten geistigen Fähigkeiten. Vier erste Aufsätze behandeln wirtschaftliche Folgen, nachvollziehbares Schlussfolgern, menschliches Wohlergehen und Prüfverfahren für besonders leistungsfähige Modelle.

Das am 17. September 2026 vorgestellte Forschungsinstitut DeepMind Institute soll unterschiedliche Positionen aus Forschung und Unternehmen sichtbar machen. Direktoren sind DeepMind-Mitgründer Shane Legg, Google-Manager James Manyika und Google-DeepMind-Vorsitzender Demis Hassabis. Legg übernimmt zusätzlich die redaktionelle Leitung.

Transparenz beim Schlussfolgern

Die Sicherheitsforscher Rohin Shah und Anca Dragan untersuchen in einem Aufsatz die schwindende Nachvollziehbarkeit leistungsfähiger Modelle. Neue Architekturen erschwerten die Kontrolle einzelner Denkschritte. Entwickler und Regulierer sollten deshalb Zielkonflikte bei der Sicherheit ausdrücklich behandeln. Als Ansatz nennen beide eine Begrenzung undurchsichtiger, aufeinanderfolgender Berechnungen. Alternativ müssten Entwickler die gleichwertige Überwachbarkeit weniger transparenter Systeme nachweisen.

Prüfung vor Veröffentlichung

Hassabis schlägt eine von den USA geführte Normungsstelle für besonders leistungsfähige KI-Modelle vor. Entwickler würden Modelle zunächst freiwillig bis zu 30 Tage vor der Veröffentlichung einreichen. Nach erfolgreicher Erprobung des Verfahrens könnten bestandene Prüfungen zur Voraussetzung für den Einsatz in den Vereinigten Staaten werden.

Die Stelle würde Prüfungen anfangs gemeinsam mit KI-Unternehmen entwerfen. Später soll sie unabhängige und zuvor nicht offengelegte Prüfungen entwickeln. Dadurch könnten Labore ihre Modelle nicht gezielt an bekannte Aufgaben anpassen. Bei ernsterer Lage sieht Hassabis strengere Vorgaben vor, einschließlich einer abgestimmten Verlangsamung führender KI-Entwickler.