OpenAI nennt erste Messergebnisse für Inferenzchip Jalapeño

OpenAI hat erste Messergebnisse zu seinem eigenen Inferenzchip Jalapeño veröffentlicht. Nach Darstellung des Unternehmens verarbeitet das System mehr KI-Arbeit pro Watt und senkt zugleich die Ende-zu-Ende-Latenz gegenüber verglichenen kommerziell verfügbaren KI-Systemen. Das soll schnellere Antworten, reaktionsstärkere KI-Assistenten und verlässlichere Verfügbarkeit bei wachsender Nachfrage ermöglichen.

In der Veröffentlichung zu Jalapeño beschreibt OpenAI den Chip als ersten eigenen Inferenzchip des Unternehmens. Getestet worden seien der Chip und das darum aufgebaute System über mehrere Modelle hinweg, darunter GPT‑OSS 120B, DeepSeek R1 und Kimi K2.5 1T. Über diese drei Modelle hinweg habe Jalapeño bei Spitzen-Durchsatz 1,5- bis 1,9-mal mehr KI-Arbeit pro Watt erreicht und die Ende-zu-Ende-Latenz je nach Vergleich um den Faktor 1,7 bis 3,6 gesenkt.

Vorteile auch bei stark interaktiven Arbeitslasten

Für stark interaktive Arbeitslasten gibt OpenAI eine 2,1- bis 4,1-mal höhere Leistung an. Als Grundlage diente laut Unternehmen InferenceX als herangezogener Vergleichstest, ein öffentlicher Maßstab von SemiAnalysis für den vollständigen Ablauf der Auslieferung einer KI-Anfrage. OpenAI bewertet die Systeme dabei nach Leistung pro Watt bei vergleichbarer Nutzererfahrung und unter Einhaltung der für Nutzer und interaktive KI-Assistenten nötigen Verzögerungsgrenzen.

Nach Unternehmensangaben wurde Jalapeño über den getesteten Betriebsbereich hinweg mit führenden kommerziell verfügbaren KI-Systemen verglichen, von hohem Durchsatz bis zu besonders verzögerungsarmen interaktiven Einsätzen. Die Ergebnisse seien zur einheitlichen Vergleichbarkeit mit den veröffentlichten Leistungsaufnahmen der jeweiligen Beschleuniger normiert worden. Jalapeño sei mit 700 Watt eingestuft, habe in den getesteten Arbeitslasten jedoch eine dauerhaft gemessene Leistungsaufnahme von höchstens 550 Watt gezeigt.

Besonders genannte Werte für Kimi K2.5 1T

Für Kimi K2.5 1T, das OpenAI als größtes öffentlich getestetes Modell einordnet, nennt das Unternehmen rund 1,5-mal höhere Spitzenleistung pro Watt und 3,4-mal niedrigere Ende-zu-Ende-Latenz als beim Vergleichssystem. Zudem verweist OpenAI auf interne Tests mit hauseigenen Spitzenmodellen, bei denen der Vorteil weiter zugenommen habe. Konkrete zusätzliche Kennzahlen dafür nennt der veröffentlichte Text jedoch nicht.

OpenAI ordnet die Resultate als Hinweis auf einen Vorteil der engen Abstimmung über mehrere Ebenen der eigenen Technik ein, also von Modellen und Produkten über Bereitstellungssoftware bis zu Chips, Speicher, Netzwerken und Gesamtsystemen. Jalapeño sei bereits einsatzfähige eigene Hardware mit gemessenen Ergebnissen und zugleich der Anfang einer mehrjährigen Plattform. In den kommenden Monaten wolle OpenAI den Einsatz ausweiten, um schnellere, leistungsfähigere und effizientere Produkte bereitzustellen.