TradingKey - Am 24. Juni US-Ostküstenzeit hat OpenAI in Zusammenarbeit mit Broadcom ( AVGO ) seinen ersten selbst entwickelten KI-Inferenzchip namens Jalapeño vorgestellt. Vom Design bis zum Tape-out vergingen bei dem Chip nur neun Monate; dies wird in der Branche als der "aggressivste Vorstoß" eines großen Technologieunternehmens gewertet, das versucht, seine Abhängigkeit von Nvidia abzuschütteln.
Jalapeño ist ein Chip, der speziell für die KI-Inferenz entwickelt wurde. Innerhalb des KI-Rechenprozesses gibt es zwei wesentliche Phasen: das „Training“ und die „Inferenz“. Beim Training werden riesige Datenmengen genutzt, um ein Modell zu „trainieren“, während bei der Inferenz das Modell Antworten generiert, nachdem es Anfragen von Nutzern erhalten hat. Jalapeño zielt speziell auf diese Inferenzphase ab.
Im Gegensatz zu den Allzweck-GPUs von Nvidia ist Jalapeño auf genau eine Aufgabe optimiert: die schnelle und energieeffiziente Ausführung großer Sprachmodelle. Er muss keine anderen Aufgaben wie das Grafik-Rendering bewältigen, was eine höhere Effizienz und geringere Kosten bei Inferenzaufgaben ermöglicht. Richard Ho, Hardware-Chef von OpenAI, erklärte, das Team habe die Kernrechenleistung, den Speichertransfer und die Netzwerkarchitektur tiefgreifend angepasst, um jede Antwort von Produkten wie ChatGPT kostengünstiger und schneller zu machen.
Richard Ho erklärte, dass Jalapeño OpenAI die vollständige Kontrolle verschafft, angefangen bei den Modellen über die Produkte bis hin zu Chips und Rechenzentren. Dies bedeutet, dass OpenAI nicht mehr nur ein Softwareunternehmen ist, das Rechenleistung von Nvidia anmietet, sondern sich zu einem Infrastrukturunternehmen für Rechenleistung wandelt.
Im Unterschied zu den Expansionspfaden traditioneller Internetunternehmen steht hinter Jalapeño eine klare Logik: Bessere Modelle können beim Entwurf besserer Chips helfen, bessere Chips können die Betriebskosten von Modellen der nächsten Generation senken, und niedrigere Kosten können wiederum mehr Nutzer und Produkte unterstützen. Sobald dieser geschlossene Kreislauf erfolgreich etabliert ist, wird die Vorstellung, dass Nvidia vom Hauptlieferanten zu einer bloßen Alternative wird, keine reine Panikmache mehr sein.
Die Wahl des Inferenz-Pfads als Einstiegspunkt. Anstatt einen direkten Kampf in Nvidias stärkster Domäne, dem Training, zu suchen, entschied sich OpenAI dafür, auf Inferenz-Szenarien abzuzielen – jenen Rechenschritt, bei dem ein Nutzer ChatGPT eine Eingabe (Prompt) gibt und das Modell eine Antwort generiert.
Dies ist ein pragmatischerer Einstiegspunkt. Das Training erfordert eine extrem hohe Rechendichte und Vielseitigkeit – Bereiche, in denen die GPUs von Nvidia einen strukturellen Vorteil haben. Im Gegensatz dazu verarbeitet die Inferenz enorme Mengen an Anfragen unter etablierten Modellarchitekturen. Dies macht es für spezialisierte, anwendungsspezifische Chips einfacher, Allzweck-GPUs in Bezug auf Effizienz und Kosten zu übertreffen.
Noch wichtiger ist, dass die Inferenzkosten für OpenAI eine laufende tägliche Ausgabe darstellen. Hock Tan, CEO von Broadcom, verriet, dass die Inferenzkosten von Jalapeño etwa 50 % niedriger sein könnten als bei etablierten KI-GPUs, bei einer Leistung, die in etwa auf dem Niveau von Nvidias Blackwell-Chips liegt.
KI-gestütztes Design, Tape-out in neun Monaten abgeschlossen. Während traditionelle High-End-Chips in der Regel zwei bis drei Jahre vom Architekturentwurf bis zum Tape-out benötigen, erreichte Jalapeño dies in nur neun Monaten.
Ein wesentlicher Faktor dabei war, dass OpenAI seine eigenen Modelle nutzte, um den Arbeitsablauf beim Chipdesign zu beschleunigen. KI ist nicht mehr nur ein Abnehmer von Chips, sondern beginnt, diese selbst zu entwerfen – eine Tatsache, die für sich genommen schon faszinierend genug ist.
Nicht nur ein einzelner Chip, sondern eine ganze Roadmap. Jalapeño ist erst der erste Schritt. OpenAI und Broadcom haben eine Roadmap für mehrere Chipgenerationen ausgearbeitet, mit dem Ziel, bis 2029 eine Rechenleistung von 10 Gigawatt auf Basis maßgeschneiderter Chips bereitzustellen. Broadcom prognostiziert, dass sein KI-bezogener Umsatz bis zum Geschäftsjahr 2027 die Marke von 100 Milliarden US-Dollar überschreiten wird.
OpenAI ist nicht allein. Google ( GOOGL ), Amazon ( AMZN ), Microsoft ( MSFT ), Meta ( META) entwickeln alle eigene Chips, und auch Anthropic hat mit Evaluierungen für maßgeschneiderte Halbleiter begonnen. Das Streben nach maßgeschneiderten Chips wandelt sich von isolierten Experimenten einzelner Unternehmen zu einem breiten Branchentrend.
1. Nvidias Skalenvorteil bleibt gewaltig
Broadcom erwartet für das Geschäftsjahr 2027 einen Umsatz mit KI-Chips von über 100 Milliarden US-Dollar – eine Zahl, die durchaus beeindruckend erscheint. Allerdings erreichte allein der Rechenzentrumsumsatz von Nvidia im ersten Quartal des Geschäftsjahres 2027 bereits 75,2 Milliarden US-Dollar, was einem Anstieg von 92 % im Jahresvergleich entspricht. Mit anderen Worten: Die KI-Hardware, die Nvidia in einem einzigen Quartal verkauft, übertrifft bereits den für ein ganzes Jahr prognostizierten KI-Chip-Umsatz von Broadcom. Der Größenunterschied zwischen den beiden Unternehmen bleibt somit gewaltig.
2. Das CUDA-Software-Ökosystem ist eine schwer zu umgehende Barriere
Nvidias tatsächlicher Wettbewerbsvorteil liegt nicht in der GPU-Hardware, sondern in CUDA und dem damit verbundenen Software-Ökosystem. Dieses unterstützt über 7.000 Anwendungen und basiert auf einer Toolchain, auf die sich Millionen von Entwicklern seit Langem verlassen.
Als ASIC-Chip unterstützt Jalapeño CUDA nicht, und eine Kompatibilität ist auch nicht geplant. Der entscheidende Punkt ist jedoch, dass OpenAI Jalapeño nicht extern verkaufen muss; das Unternehmen muss den Chip lediglich für seine eigenen Inferenz-Workloads optimieren. Diese Strategie kann CUDA zwar umgehen, reicht jedoch noch nicht aus, um die Vormachtstellung von CUDA in der breiteren KI-Entwicklergemeinschaft zu erschüttern.
3. Kurzfristig begrenzte Kapazitäten: Eher eine Ergänzung als ein Ersatz
OpenAI hat unmissverständlich klargestellt, dass Jalapeño eine Ergänzung der bestehenden Rechenleistung darstellt und keinen Ersatz. Brockman erklärte unverblümt, dass das Unternehmen Rechenkapazitäten schlichtweg nicht schnell genug beschaffen könne.
Zudem gibt es einen leicht zu übersehenden Hintergrund: Vor etwa neun Monaten hatte Nvidia gerade eine strategische Investition in Höhe von 30 Milliarden US-Dollar in OpenAI abgeschlossen. Jensen Huang sagte damals: "Dies könnte die letzte sein", was darauf hindeutet, dass Nvidia das Jalapeño-Projekt längst vorausgesehen hatte. Beide Seiten pflegen weiterhin eine symbiotische Beziehung.
Eine vorsichtigere Einschätzung besagt, dass Nvidias Wettbewerbsvorteil zwar erodiert, aber noch weit von einem Zusammenbruch entfernt ist.
Der Inferenz-Markt befindet sich im Wandel von einer reinen GPU-Dominanz hin zu einer diversifizierten Landschaft, in der GPUs neben verschiedenen ASICs koexistieren. Wenn die generationenübergreifende Chip-Roadmap von OpenAI reibungslos voranschreitet, wird sich die Verlagerung von Inferenz-Workloads von GPUs auf ASICs beschleunigen. Für Nvidia bleiben die Barrieren im Trainingsmarkt, die Bindungskraft des CUDA-Ökosystems und die Größenvorteile kurzfristig jedoch schwer zu erschüttern.
Die Antwort darauf, wie weit Jalapeño letztendlich kommen kann, zeigt sich möglicherweise erst, wenn in zwei Jahren die Einsatzdaten vorliegen.
F: Wann wird der Jalapeño-Chip offiziell kommerziell verfügbar sein?
A: Derzeit befindet er sich noch in der Engineering-Sample-Phase. OpenAI geht davon aus, in den kommenden Monaten einen detaillierteren technischen Bericht zu veröffentlichen, und der genaue Zeitplan für die Serienproduktion und Bereitstellung wurde noch nicht bekannt gegeben.
F: Wird Jalapeño Nvidia-GPUs ersetzen?
A: Kurzfristig nicht. OpenAI hat deutlich gemacht, dass es sich hierbei eher um eine Ergänzung der Rechenleistung als um einen Ersatz handelt und das Training von Foundation-Modellen der nächsten Generation weiterhin stark auf Nvidia-GPUs angewiesen ist.
F: Können die Inferenzkosten von Jalapeño wirklich um 50 % gesenkt werden?
A: Diese Zahl stammt aus öffentlichen Äußerungen von Broadcom-CEO Hock Tan, basiert jedoch auf frühen Testmetriken, und die tatsächliche Leistung nach der endgöltigen Serienproduktion muss erst noch verifiziert werden.