Die Schlagzeile lautet natürlich, OpenAI habe Nvidia geschlagen. Gemäss den veröffentlichten Ergebnissen liefert Jalapeño bei maximalem Durchsatz 1,5- bis 1,9-mal mehr KI-Arbeit pro Watt als die verglichenen Systeme. Gleichzeitig lag die Ende-zu-Ende-Latenz um den Faktor 1,7 bis 3,6 tiefer.

Getestet wurden GPT-OSS 120B, DeepSeek R1 670B und Kimi K2.5 1T. Damit funktioniert die Architektur nicht nur mit OpenAIs eigenen Modellen. Der Chip ist für verschiedene moderne Sprachmodelle ausgelegt, bleibt aber ein spezialisierter Inferenz-Chip. Er führt Modelle aus. Er trainiert sie nicht.

Diese Unterscheidung ist wichtig. Jalapeño ersetzt keine GPU für jede denkbare Aufgabe. Der Chip wurde von Grund auf dafür entwickelt, Sprachmodelle schnell und effizient auszuführen. Weniger Datenbewegung, abgestimmte Speicher- und Netzwerkarchitektur sowie eine klare Ausrichtung auf reale Inferenz-Lasten sollen mehr nutzbare Arbeit aus jedem Watt holen.

Doch gute Hardware allein reicht nicht. Ein KI-Chip braucht hochoptimierte Kernel. Das sind kleine Programme, die exakt festlegen, wie der Chip bestimmte mathematische Operationen ausführt. Ein schlechter Kernel kann hervorragende Hardware ausbremsen. Und gute Kernel zu schreiben ist mühsame Spezialistenarbeit.

Genau hier liegt Nvidias historischer Vorteil. CUDA bietet seit Jahren Programmiersprachen, Bibliotheken, Werkzeuge, Dokumentation und einen riesigen Pool erfahrener Entwicklerinnen und Entwickler. Wer eine neue Chiparchitektur baut, muss nicht nur besseres Silizium liefern. Er muss auch diese Softwarebarriere überwinden.

OpenAI versucht das Problem anders zu lösen. Statt zuerst ein möglichst menschenfreundliches Ökosystem aufzubauen, wird Jalapeño mit der tief angesetzten Sprache Gluon programmiert. Die Kernel können laut dem Bericht von SemiAnalysis rund 3000 Zeilen umfassen und werden mit Korrektheitsprüfungen sowie einem eigenen Prüfwerkzeug abgesichert.

Diese Arbeit übernimmt zunehmend Codex. Als für DeepSeek R1 ein passender MLA-Kernel fehlte, konnte das System laut SemiAnalysis schnell eine funktionierende und effiziente Implementierung erzeugen. OpenAI berichtet zudem, dass drei ursprünglich nicht für Jalapeño eingeplante offene Modelle innerhalb von zwei Monaten auf hohe Leistung gebracht wurden.

Bei ausgewählten Komponenten von GPT-OSS liefen KI-generierte Implementierungen gemäss OpenAI 1,5- bis 1,8-mal schneller als bestehende, von menschlichen Fachleuten geschriebene Versionen. Das gilt ausdrücklich für einzelne Blöcke und nicht für das komplette Modell. Trotzdem zeigt es, wohin die Reise geht.

OpenAI nutzte KI auch beim Chipdesign selbst. Modelle halfen dabei, Varianten zu untersuchen, Schaltungen zu optimieren und die Schleifen zwischen Entwurf, Messung und Verifikation zu verkürzen. Vom ersten Design bis zum Tape-out vergingen laut OpenAI und Broadcom neun Monate.

Damit entsteht eine Feedbackschleife: Bestehende Modelle helfen, bessere Hardware zu entwerfen. Diese Hardware führt spätere Modelle effizienter aus. Neue Modelle schreiben wiederum bessere Software für die nächste Hardwaregeneration. Das ist keine vollständig autonome Selbstverbesserung. Sehr gute Ingenieurinnen und Ingenieure bleiben zentral. Aber ihr Hebel wird massiv grösser.

Die Resultate verdienen trotzdem einen nüchternen Blick. SemiAnalysis hat die Läufe im OpenAI-Labor persönlich überprüft, aber nicht die komplette InferenceX-Suite ausgeführt. Die zugrunde liegenden Zahlen wurden von OpenAI bereitgestellt. Realistischere AgentX-Tests mit langen Kontexten und mehreren Interaktionen fehlen noch.

Auch der Vergleich mit Nvidia ist weniger endgültig, als manche Schlagzeile suggeriert. Jalapeño existiert derzeit als frühes Silizium und muss erst für den breiten Betrieb qualifiziert werden. Nvidias Rubin-Plattform befindet sich ebenfalls noch in einer frühen Optimierungsphase. Beide Softwarestacks werden schneller werden.

OpenAI plant den ersten Einsatz in der eigenen Infrastruktur bis Ende 2026. Die zweite Generation ist bereits weit in Entwicklung, die dritte wird vorbereitet. Ob Jalapeño unter realen Produktionslasten dieselben Vorteile hält, bleibt offen.