EFF fordert klare Sicherheitsregeln für Tests in KI-Laboren

Die Electronic Frontier Foundation fordert gesetzliche Mindeststandards für riskante Tests in KI-Laboren. Maßstab sollen bewährte Verfahren der IT-Sicherheit sein. Bei schwerwiegenden Sicherheitsvorfällen verlangt die Organisation zudem unabhängige Untersuchungen und öffentliche Berichte.

Jacob Hoffman-Andrews, Tori Noble und Maddie Daly veröffentlichten die Empfehlungen der Electronic Frontier Foundation am 17. September 2026. Hintergrund seien Berichte über Sicherheitsverletzungen bei großen KI-Laboren in den USA, darunter der Vorfall im Zusammenhang mit OpenAI und Hugging Face. Nach Auffassung der Organisation sollte sich neue Gesetzgebung auf die dadurch belegten und unmittelbaren Gefahren konzentrieren.

Riskante Versuche von anderen Systemen trennen

Für Tests oder Aufgaben, bei denen mit hoher Wahrscheinlichkeit Dritte geschädigt werden könnten, fordert die EFF eindeutige Mindestanforderungen. Als Beispiel nennt sie Versuche, die in fremde Computersysteme eindringen könnten. Solche Vorgänge sollten in isolierten Testumgebungen, sogenannten Sandboxes, stattfinden, von anderen Systemen getrennt sowie fortlaufend überwacht und protokolliert werden.

Diese grundlegenden Schutzmaßnahmen hätten nach Darstellung der EFF alle derzeit bekannten Vorfälle in KI-Laboren verhindert oder deren Folgen erheblich begrenzt. Berichte nach dem Vorfall bei Hugging Face deuteten demnach ebenfalls darauf hin, dass stärkere Abschottung und Überwachung das Geschehen hätten verhindern oder abmildern können.

Regeln sollen technischen Wandel überdauern

Die gesetzlichen Anforderungen dürften nach Ansicht der Organisation nicht ausschließlich auf gegenwärtige KI-Technik zugeschnitten sein. Solche Vorgaben könnten durch den technischen Fortschritt schnell überholt werden. Dauerhafter seien Maßstäbe, die an etablierte und durch Erkenntnisse gestützte Verfahren der IT-Sicherheit anknüpften. Damit lasse sich die Öffentlichkeit schützen, ohne die künftige Entwicklung von KI unnötig zu behindern.

Öffentliche Berichte über schwerwiegende Vorfälle

Darüber hinaus sollten Gesetze unabhängige Untersuchungen durch Dritte vorschreiben und finanzieren, wenn es bei der Erprobung neuer Werkzeuge in KI-Laboren zu schwerwiegenden Sicherheitsvorfällen kommt. Die Ergebnisse müssten öffentlich zugänglich sein. Die EFF bewertet diese Transparenz als wichtigen Beitrag zur öffentlichen Kontrolle der Branche. Vorschriften zur Sicherheit von KI-Laboren sollten insgesamt sorgfältig, präzise und praktisch umsetzbar ausgestaltet werden.