Anthropic fordert globales Bremsmanöver für Frontier-KI und warnt vor selbstverbessernden Modellen

Anthropic drängt auf eine weltweite Verlangsamung bei Frontier-KI und begründet das mit einem Szenario selbstverbessernder Modelle. Der Vorstoß ist brisant, weil der Claude-Anbieter zugleich meldet, dass KI bereits den Großteil des eigenen Codes erzeugt.

In einem am 5. Juni 2026 veröffentlichten Beitrag forderten Anthropic-Mitgründer Jack Clark und Forscherin Marina Favaro eine globale Möglichkeit, die Entwicklung leistungsfähiger KI vorübergehend zu bremsen, wie heise online berichtet. Wörtlich schrieben sie: „It would be good for the world“ zu pausieren. Anthropic verknüpft den Appell mit dem Konzept der „full recursive self-improvement“, also einer KI, die neue KI-Systeme zunehmend selbst entwickelt. Dafür sei ein international glaubwürdiger Koordinationsmechanismus nötig, damit Staaten und Unternehmen ein Moratorium nicht einseitig unterlaufen.

Claude schreibt 80 Prozent

Anthropic stützt die Warnung auf eigene Betriebsdaten. Im Mai 2026 stammten nach Unternehmensangaben 80 Prozent des Codes, der in die eigene Codebasis übernommen wurde, aus Claude. Im Februar 2025 habe dieser Anteil noch im niedrigen einstelligen Prozentbereich gelegen, zitiert heise online den Blogbeitrag. Zugleich lieferten Entwickler bei Anthropic pro Quartal im Schnitt achtmal mehr Code aus als im Zeitraum von 2021 bis 2025. Für Unternehmen ist das relevant, weil Claude, ChatGPT, Gemini und Copilot längst in Entwicklungswerkzeugen und Bürosoftware verankert sind.

Nach Darstellung von Clark und Favaro sinkt zudem die Zahl menschlicher Korrekturen bei offenen Aufgaben. Viele Beschäftigte bei Anthropic hätten den von Claude erzeugten Code Ende 2025 noch als schlechter bewertet als menschlichen Code. Inzwischen liege die Qualität auf Augenhöhe. „We expect it to be better within the year“, schrieben die Autoren laut heise online. Sobald Gleichstand erreicht sei, würden Menschen vor allem noch prüfen statt selbst zu programmieren.

Menschliche Prüfung als Engpass

Genau darin sieht Anthropic das nächste Risiko. Wenn Claude schneller Code erzeugt, als Menschen ihn prüfen können, werde die menschliche Kontrolle zum Engpass der KI-Entwicklung. Das Unternehmen beschreibt damit keinen fernen Laborfall, sondern einen Prozess, der bereits 2026 in der eigenen Organisation sichtbar sei. Für Anbieter von KI-Tools in Microsoft 365, Google Workspace oder Entwicklerplattformen verschiebt sich damit die Debatte von Produktivität auf Aufsicht, Nachvollziehbarkeit und Freigabeprozesse.

Vorstoß kurz vor Börsenplänen

Der Zeitpunkt des Appells fällt auf. heise online verweist darauf, dass der Ruf nach einem Moratorium kurz vor einem möglichen Börsengang des Unternehmens kommt. Konkrete regulatorische Folgen nannte Anthropic am 5. Juni 2026 nicht. Der Beitrag beschränkt sich auf den Ruf nach internationaler Abstimmung und auf die Warnung, dass weniger vorsichtige Akteure sonst technologische Vorteile gewinnen könnten.