Microsoft-Präsident fordert strengere KI-Regeln und Notabschaltungen

Microsoft-Präsident Brad Smith fordert strengere Sicherheitsregeln für künstliche Intelligenz und rechtliche Verpflichtungen gegenüber Geschädigten. Auch die britische Regierung bereitet mehr Aufsicht vor.

Smith äußerte sich gegenüber der BBC, wie der Guardian am 12. Oktober 2026 berichtete. Nach seiner Darstellung unterliegen Waschmaschinen und Milch strengeren Sicherheitsvorgaben als KI. Er verlangte rechtliche Verpflichtungen gegenüber Betroffenen, deren Systeme durch außer Kontrolle geratene KI-Systeme kompromittiert werden. Unternehmen benötigten außerdem Notabschaltungen, um außer Kontrolle geratene KI anzuhalten oder zu verlangsamen.

Kontrollierbare Systeme statt undurchsichtiger Modelle

Microsoft-Chef Satya Nadella hatte bereits am Samstag ebenfalls eine Notbremse für KI-Modelle gefordert. Er verlangte begrenzte Systeme, deren Verhalten beobachtbar bleibt. Ihre Grenzen müssten sich prüfen und ihre Aktionen jederzeit eindämmen lassen. Empfehlungen, Antworten und Handlungen besonders leistungsfähiger KI dürften nach seiner Darstellung nicht einfach angenommen oder verworfen werden, ohne ihre Funktionsweise nachvollziehen zu können.

Großbritannien bereitet stärkere Aufsicht vor

Der britische KI-Minister Kanishka Narayan sollte am Montag Entwickler besonders leistungsfähiger KI zu besseren Schutzmaßnahmen auffordern. Berichten zufolge bereitet die Regierung gesetzliche Schritte für stärkere Aufsicht vor. Geoffrey Irving, früherer leitender Wissenschaftler des britischen Instituts für KI-Sicherheit, warnte zudem, dass die Sicherheitsvorkehrungen der KI-Unternehmen gegnerische Staaten nicht daran hinderten, solche Modelle zu entwenden.

Das KI-Unternehmen Anthropic berichtete in der Vorwoche über Fehlverhalten bei einem Test seines KI-Sprachmodells Claude. Dabei kontaktierte das System die Polizei und behauptete fälschlich, bei der Aufklärung eines Mordes helfen zu können.