OpenAI und Polens NASK vereinbaren Zusammenarbeit zur KI-Sicherheit

OpenAI und das polnische Forschungsinstitut NASK haben eine Vereinbarung zur Zusammenarbeit bei der KI-Sicherheitsforschung unterzeichnet. Gemeinsam wollen beide Organisationen leistungsfähige KI-Systeme bewerten, mögliche Schwachstellen identifizieren und Schutzmaßnahmen gegen neu entstehende Risiken stärken.

Nach Angaben von OpenAI soll die Vereinbarung eine Zusammenarbeit bei Sicherheit und technischer Forschung ausloten. Auf polnischer Seite beteiligt sich das KI-Sicherheitsforschungszentrum von NASK, das als polnisches Institut für KI-Sicherheit fungiert. Beide Partner wollen ihre Fachkenntnisse verbinden. Dabei sollen sie auch untersuchen, wie fortgeschrittene KI eine sicherere und widerstandsfähigere digitale Umgebung unterstützen kann.

Gemeinsame Verfahren zur Risikobewertung

OpenAI fordert internationale technische Standards für besonders leistungsfähige KI und eine Zusammenarbeit der USA mit anderen Ländern. Gemeinsame Verfahren sollen Fähigkeiten bewerten, Risiken erfassen, Schutzmaßnahmen prüfen und Vorfälle dokumentieren. Nach Darstellung des Unternehmens erleichtert das den grenzüberschreitenden Vergleich von Erkenntnissen. NASK bringt Forschung ein, die unmittelbar dem Schutz öffentlicher Dienste und der digitalen Informationsumgebung Polens dient.

Sechs Schwachstellen in RouterOS

Die Vereinbarung knüpft an die Zusammenarbeit mit CERT Polska an, dem bei NASK angesiedelten Team zur Abwehr von Cyberangriffen. Es erhielt im Juli Zugang zu OpenAI-Modellen mit Fähigkeiten für Cybersicherheit über das OpenAI-Angebot namens Daybreak. Mit Hilfe dieser Modelle entdeckte das Team sechs Schwachstellen in MikroTik RouterOS, dem Betriebssystem für Netzwerkgeräte wie Router des Herstellers MikroTik. Darunter waren kombinierbare Fehler, die eine Geräteübernahme ohne vorherige Anmeldung oder Identitätsprüfung ermöglichten. Der Hersteller veröffentlichte Korrekturen; CERT Polska bestätigte, dass diese die beobachteten Angriffe verhinderten.