Nvidia stärkt KI-Inferenz mit Lizenzvereinbarung und Groq-Technologie

Der Chipkonzern Nvidia treibt den Ausbau seines Angebots für KI-Inferenzanwendungen voran und hat dazu eine nicht exklusive Lizenzvereinbarung mit dem US-Start-up Groq geschlossen. Die Vereinbarung sieht vor, dass Nvidia Zugriff auf Groqs auf extrem geringe Latenzzeiten ausgelegte Inferenztechnologie erhält. Gleichzeitig wechseln der Gründer sowie zentrale Führungskräfte und Ingenieure von Groq zu Nvidia, während das Start-up als unabhängiges Unternehmen bestehen bleibt.

Mit dem Schritt erweitert Nvidia sein technologisches Spektrum im Bereich spezialisierter KI-Beschleuniger. Inferenzlösungen mit besonders kurzen Reaktionszeiten gewinnen vor allem bei Echtzeitanwendungen an Bedeutung und gelten als zunehmend wichtiger Wettbewerbsfaktor gegenüber alternativen Architekturen wie Tensor Processing Units.

Die gewählte Lizenzstruktur ermöglicht es Nvidia, neue Technologien schnell in die eigene Produktplanung zu integrieren, ohne die regulatorischen Hürden einer vollständigen Übernahme zu durchlaufen. Medien hatten zuvor über ein mögliches Übernahmeangebot in Höhe von rund 20 Milliarden US-Dollar berichtet, eine Bestätigung dafür steht jedoch aus.

Technologisch setzt Groq auf sogenannte Language Processing Units, die für schnelle Inferenzberechnungen optimiert sind. Die auf SRAM basierende Architektur erlaubt eine flexible Abstimmung auf unterschiedliche Einsatzszenarien und könnte künftige Nvidia-Plattformen gezielt ergänzen – sowohl im Hinblick auf Rechenleistung als auch auf Energieeffizienz.

Die Vereinbarung ist Teil von Nvidias strategischer Ausrichtung, neben klassischen Grafikprozessoren verstärkt auch spezialisierte, ASIC-ähnliche Lösungen anzubieten. Damit will der Konzern insbesondere Anwendungen adressieren, bei denen herkömmliche GPUs aufgrund ihrer Speicherarchitektur an Grenzen stoßen. Insgesamt zielt Nvidia darauf ab, seine Position im schnell wachsenden Markt für KI-Inferenz weiter zu festigen.