Anthropic fordert koordinierte Bremse für Frontier-KI nach IPO-Unterlagen und Mythos-Warnungen

Anthropic drängt auf eine international abgestimmte Verlangsamung bei besonders leistungsfähiger KI. Der Anbieter hinter Claude verbindet den Vorstoß mit neuen Warnungen vor autonomen Systemen und verschärft damit die Debatte über Regulierung, Sicherheit und den Einsatz von KI in Unternehmen.

Der Vorstoß wurde am Donnerstag bekannt, nur wenige Tage nachdem Anthropic laut The Globe and Mail erste Unterlagen für einen Börsengang eingereicht hatte. In einem Blogbeitrag erklärte das Unternehmen, es sei „gut für die Welt“, wenn es die Option gebe, Frontier-KI vorübergehend zu bremsen. Nötig sei eine koordinierte Vereinbarung mehrerer führender Labore in mehreren Ländern. Anthropic begründete das mit neuen Daten, wonach KI-Systeme bald ihre Nachfolger eigenständig entwerfen und entwickeln könnten.

Warnung trotz Wachstumsdruck

Anthropic gehört mit Claude zu den Anbietern, die auch in KMU-Werkzeugen direkt relevant sind. Claude konkurriert mit ChatGPT, Gemini und Copilot um Text-, Analyse- und Automatisierungsaufgaben. Gerade deshalb fällt der Zeitpunkt auf. Das Unternehmen wurde laut Bericht in der Vorwoche zum wertvollsten KI-Start-up weltweit. Zugleich warnte Anthropic, ein einseitiger Stopp sei riskant. Ohne einheitliche Regeln könnten „weniger vorsichtige Akteure“ technologisch aufholen. Das Unternehmen kündigte an, an den technischen und organisatorischen Voraussetzungen für eine solche Pause mitzuarbeiten.

Besonders konkret wurde Anthropic beim internen Modell Mythos. Der Anbieter habe den frühen Zugang zuletzt ausgeweitet, das System aber wegen seiner Cyberfähigkeiten noch nicht öffentlich freigegeben, berichtet The Globe and Mail. Teilnehmer aus Staaten und kritischen Branchen hätten vor Tausenden Sicherheitslücken auf kritischem Niveau gewarnt. Mehr als 100 Millionen Menschen könnten dadurch einem Cyberangriff ausgesetzt sein. Diese Zahl verleiht der Debatte über generative KI im Unternehmensalltag eine neue Größenordnung.

Kanadas Strategie setzt auf Adoption

Der Appell fiel am selben Tag, an dem Ottawa seine nationale KI-Strategie vorlegte. Die Bundesregierung will damit Vertrauen in KI stärken und zugleich die Nutzung ausbauen. Das Programm „AI for All“ umfasst laut Bericht mehr als 2,3 Milliarden kanadische Dollar für Schulung, Einführung und Start-ups. Geplant sind außerdem kostenlose Trainings- und Kompetenzangebote. Parallel bekräftigte die Regierung neue Gesetze zu Datenschutz und Online-Schäden, ohne bereits einen fertigen Regulierungsrahmen vorzulegen.

Hinton mahnt im Senat

Anthropics Position deckt sich mit Warnungen von Geoffrey Hinton. Der emeritierte Professor der University of Toronto sagte im Februar vor einem Senatsausschuss, die Kontrolle über superintelligente KI müsse gesichert werden, bevor sie den Menschen übertreffe, wie The Globe and Mail berichtet. Im Mai erklärte Hinton auf einer Konferenz, es sei „durchaus denkbar“, dass die Menschheit nur eine Übergangsphase sei. Die kanadische Strategie wurde am Donnerstag veröffentlicht und umfasst mehr als 2,3 Milliarden kanadische Dollar.