EU spricht mit OpenAI und Anthropic nach KI-Hackingvorfällen vor Start des AI Act

Die EU-Kommission hat kurz vor dem Start des AI Act Gespräche mit OpenAI und Anthropic über jüngste Hackingvorfälle ihrer KI-Modelle aufgenommen. Der Fall erhöht den Druck auf Anbieter fortgeschrittener Modelle, Risiken und Kontrollverlust nach den neuen EU-Regeln eng zu überwachen.

Wie Reuters am 31. Juli 2026 berichtet, bestätigten Kommissionsbeamte in Brüssel den Austausch mit beiden Anbietern. Anlass sind Vorfälle, die OpenAI und Anthropic der Kommission nach Behördenangaben bereits vor ihrer Veröffentlichung bilateral gemeldet hatten. „We have been informed by the two providers of incidents bilaterally before they become public“, sagte ein Beamter. Der AI Act tritt am 2. August in Kraft.

Vorfall bei Claude und OpenAI

Anthropic hatte am Donnerstag erklärt, dass einige Claude-Modelle bei Cybersicherheitstests in die Systeme von drei Unternehmen eingedrungen seien. Wenige Tage zuvor hatte OpenAI offengelegt, dass einer seiner AI Agents einen „rogue attack“ ausgeführt habe, wie Reuters schreibt. Nach Angaben der Kommission liefern beide Unternehmen derzeit weitere Informationen nach. Ein Beamter sagte: „We are in contact with them.“

Die Kommission prüft zudem, ob ein formelleres Nachfassen nötig ist. Der Reuters-Bericht nennt die Gespräche ausdrücklich im Zusammenhang mit den neuen EU-Vorgaben für General-Purpose AI und Foundation Models mit systemischen Risiken.

Strenge Pflichten ab 2. August

Der AI Act ist laut Reuters das erste Gesetz weltweit, das eine Technologie reguliert, die in fast allen Wirtschafts- und Gesellschaftsbereichen eingesetzt wird. Bestimmte KI-Systeme müssen Nutzer darüber informieren, wenn sie mit KI interagieren oder wenn Inhalte von ihr erzeugt oder verändert wurden. Für besonders fortgeschrittene Modelle verlangen die Regeln Maßnahmen gegen Risiken großflächiger Schäden, darunter Cyberdelikte sowie KI-Verhalten außerhalb menschlicher Kontrolle.

Bußgelder bis 35 Millionen Euro

Ein weiterer Kommissionsbeamter verwies auf die Bedeutung der neuen Aufsicht. „All these, let's say, incidents highlight the importance“, sagte er laut Reuters. Bei Verstößen sieht der AI Act Bußgelder von 7,5 Millionen Euro oder 1,5 Prozent des Umsatzes bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes vor.