Inferenzkosten brechen um 90 % ein. Nvidia kooperiert mit LangChain zur Definition von Agenten-Standards und buhlt um neue Einstiegspunkte für KI-Anwendungen

TradingKey - Am 8. Juli haben NVIDIA ( NVDA) und das KI-Entwicklungs-Framework LangChain gemeinsam den Blueprint "NVIDIA NeMoClaw Deep Agents" veröffentlicht. Dieser Schritt signalisiert die umfassende Expansion von NVIDIA von einem reinen KI-Rechenleistungsanbieter zu einer Ökosystem-Plattform, die Standards für die Entwicklung von Agenten auf Unternehmensebene definiert, und eröffnet neue Wachstumsräume für sein Softwaregeschäft.

Der Blueprint bietet Unternehmen eine offene, anpassbare und steuerbare Referenzarchitektur für KI-Agenten und zielt darauf ab, Kernherausforderungen wie Kontrollierbarkeit, Governance und kontinuierliche Weiterentwicklung zu lösen, mit denen Unternehmen bei der Bereitstellung von Agenten konfrontiert sind.

Anstatt lediglich die Modellfähigkeiten zu verbessern, legt dieser Blueprint einen größeren Fokus auf die Software-Engineering-Fähigkeiten von Agenten auf Unternehmensebene. Offizielle Daten zeigen, dass diese Lösung nicht nur eine führende Leistung in mehreren Benchmarks erzielt, sondern auch die Inferenzkosten für Agenten um mehr als das Zehnfache senkt. Sie bildet eine Hardware-Software-Synergie mit der Blackwell-Inferenzplattform und senkt die Bereitstellungskosten von KI-Anwendungen weiter.

Da sich generative KI von der Inhaltserstellung hin zur autonomen Aufgabenausführung weiterentwickelt, werden Agenten zur Kernform von KI-Anwendungen in Unternehmen. Allerdings standen Unternehmen bei der Bereitstellung bisher stets vor Herausforderungen wie Sicherheit, Kontrollierbarkeit und der schwierigen Integration in Geschäftsprozesse.

Der Kern des neu eingeführten Blueprints besteht nicht darin, ein neues Agenten-Framework aufzubauen, sondern vielmehr eine vollständige Referenzarchitektur auf Unternehmensebene bereitzustellen. Basierend auf der Zusammenarbeit mit LangChain nutzt der Blueprint ein offenes Architekturdesign, das es Unternehmen ermöglicht, die volle Kontrolle über die zugrunde liegenden Systeme zu behalten, die Fähigkeiten der Agenten anzupassen und diese im Zuge der Geschäftsentwicklung kontinuierlich zu iterieren, anstatt sich auf eine geschlossene Plattform zu verlassen.

Fokus auf Agent Governance zur Lösung von Schwachstellen bei der Implementierung im Enterprise-Bereich

Anstatt zu betonen, „welche Aufgaben der Agent erledigen kann“, konzentriert sich die diesmal von NVIDIA vorgestellte Lösung vielmehr darauf, wie Agenten verwaltet, überwacht, auditiert und kontinuierlich optimiert werden. Diese Fähigkeit ist besonders für stark regulierte Branchen wie das Finanzwesen, das Gesundheitswesen und den öffentlichen Sektor von entscheidender Bedeutung und senkt zudem die Hürde für Unternehmen, Agenten in großem Maßstab bereitzustellen.

Harrison Chase, Mitbegründer und CEO von LangChain, erklärte: „Der Schlüssel zum Aufbau besserer Agenten liegt in der kontinuierlichen Verbesserung der Systeme, die das Modell umgeben. Wenn Teams Speicher, Tool-Nutzung, Evaluierung und Modellverhalten synchron aufeinander abstimmen können, erzeugen diese Fähigkeiten einen Synergieeffekt. Unsere Zusammenarbeit mit NVIDIA zeigt, dass Unternehmen durch einen offenen Stack nicht nur eine leistungsstarke Performance erzielen, sondern auch die Kontrolle über die von ihnen entwickelten Agenten-Systeme behalten können.“

Da Agenten immer risikoreichere Aufgaben übernehmen und sich von reinen Assistenten zur Beantwortung von Fragen hin zu ausführenden Einheiten entwickeln, die in der Lage sind, Maßnahmen innerhalb von Kernsystemen zu ergreifen, steigen die Anforderungen von Unternehmen an die Steuerbarkeit und Sicherheit von KI-Systemen.

Die offene Architektur, die das NeMo Claw-Blueprint bietet, ermöglicht es Unternehmen, den kompletten Technologie-Stack durchgängig selbst zu besitzen. Dies erlaubt es ihnen, diesen auf der Grundlage ihrer einzigartigen professionellen Vorteile anzupassen und kontinuierlich zu verbessern sowie in jeder beliebigen Umgebung auszuführen – einschließlich der eigenen Infrastruktur, Private Clouds und proprietären Governance-Frameworks.

Kostensenkung durch Hardware-Software-Synergie

Die Kostenkontrolle war schon immer der zentrale Engpass für die großflächige Kommerzialisierung von KI, und der NeMoClaw-Entwurf demonstriert in dieser Hinsicht erhebliche Vorteile.

Nach den von LangChain veröffentlichten Evaluierungsdaten erreichte das mit der Deep Agents-Suite ausgestattete Nemotron 3 Ultra-Modell eine Gesamtbewertung von 0,86, wobei die Inferenzkosten für eine einzelne Aufgabe bei nur 4,48 US-Dollar lagen, während das am nächsten liegende Konkurrenzmodell bis zu 43,48 US-Dollar kostete – was einer Reduzierung um rund 90 % entspricht. Dieser Erfolg wurde nicht durch ein erneutes Training des Modells selbst erzielt, sondern vielmehr durch die Optimierung von Tool-Aufrufstrategien, Kontextmanagement-Mechanismen und zwischenzeitlichen Argumentations-Workflows realisiert.

Auf Hardware-Ebene hat die Blackwell-Architektur von Nvidia die Inferenzkosten pro Token durch architektonische Upgrades bereits auf etwa 1/35 der Plattform der vorherigen Generation gesenkt, was die Effizienz des Inferenzdurchsatzes erheblich verbessert.

Der NeMoClaw-Entwurf schöpft das Hardware-Potenzial auf Software-Ebene weiter aus. Durch die systematische Optimierung der Agent-Aufgabenplanung, der Tool-Aufrufe, des Kontextmanagements und der Argumentationspfade ermöglicht er es derselben Rechenleistung, mehr Aufgaben zu unterstützen, wodurch die Synergie zwischen Hard- und Software maximiert wird.

Diese Veröffentlichung ist für Nvidia ein wichtiger Schritt zur Verfeinerung seines NeMo-Software-Ökosystems und behebt Schwachstellen in der Agent-Entwicklungsschicht. In den letzten Jahren hat Nvidia einen kompletten KI-Software-Stack um CUDA, TensorRT, NIM und NeMo herum aufgebaut, mit dem Ziel, eine End-to-End-Plattform zu werden, die Modelltraining, Inferenzbereitstellung und die Entwicklung von Unternehmensanwendungen abdeckt.

Da Agents zum Kernbestandteil von KI-Anwendungen werden, entwickeln sich Entwicklungs-Frameworks zum neuen Tor zum Ökosystem. Die Partnerschaft mit LangChain ermöglicht es Nvidia, seine Funktionen über etablierte Frameworks in die KI-Workflows von Unternehmen einzubetten und so um die Vorherrschaft im Agent-Zeitalter jenseits der reinen Infrastruktur zu konkurrieren.

Für die Kapitalmärkte ist diese strategische Ausrichtung von großer Bedeutung. Angesichts des reifenden Wettbewerbs im Bereich der KI-Infrastruktur ist es schwierig, die Bewertungsexpansion allein durch GPU-Verkäufe aufrechtzuerhalten, während Software- und Plattformdienste höhere Bruttomargen und eine stärkere Kundenbindung bieten.

Durch die Perfektionierung des NeMo-Ökosystems und die Ausweitung auf Agent-Standards entwickelt sich Nvidia von einem Hardware-Anbieter zu einer Full-Stack-KI-Ökosystem-Plattform und legt damit den Grundstein, um künftig mehr Software-Einnahmen und Ökosystem-Prämien zu erzielen.

Derzeit haben Unternehmen wie Abridge, Amdocs und Box spezialisierte Agents in ihre Plattformen eingebettet, und Systemintegratoren wie EY erweitern die Bereitstellungskapazitäten für Nvidia-Technologie rund um den NeMoClaw-Entwurf, um Kunden bei der Anpassung, Bewertung und Steuerung von Agents in hochgradig wertschöpfenden Workflows zu unterstützen.

Langfristig geht es bei Nvidias Ausrichtung nicht nur darum, Marktanteile im Agent-Zeitalter zu gewinnen, sondern auch darum, eine unerschütterliche Barriere für das KI-Ökosystem aufzubauen.

Durch eine Full-Stack-Lösung, die sich durch das Zusammenspiel von Hard- und Software auszeichnet, bindet Nvidia seine Kunden fest an sein Technologie-Ökosystem, festigt seine Kernposition in der KI-Wertschöpfungskette und bereitet sich umfassend auf die bevorstehende Explosion von KI-Anwendungen vor.