IBM hat mit Together AI einen mehrjährigen Vertrag über 240 Millionen US-Dollar geschlossen. Im Rahmen der Vereinbarung soll auf der IBM Cloud ein großer Verbund von Nvidia-HGX-B300-Systemen aufgebaut werden. Die Infrastruktur soll voraussichtlich im ersten Quartal 2027 verfügbar sein.
Dabei handelt es sich um den ersten groß angelegten Einsatz der HGX-B300-Systeme für KI-Inferenz auf der IBM Cloud. Zum Einsatz kommt zudem Nvidias Spectrum-X-Ethernet-Netzwerktechnologie. Die neue Architektur soll KI-Anwendungen schneller und effizienter verarbeiten. Nach Angaben von Nvidia kann die Leistung bei sogenannten KI-Fabriken gegenüber früheren Generationen um das bis zu 30-Fache steigen.
Together AI will die zusätzliche Rechenkapazität nutzen, um seine Inferenzdienste für Open-Source-KI-Modelle auszubauen. Das Unternehmen verarbeitet nach eigenen Angaben derzeit rund 400 Billionen Token pro Monat. Zuletzt sammelte Together AI in einer Series-C-Finanzierungsrunde 800 Millionen Dollar bei einer Bewertung von 8,3 Milliarden Dollar ein.
Für IBM ist die Vereinbarung Teil des Ausbaus seiner Cloud-Infrastruktur für Unternehmenskunden. Zugleich setzt der US-Technologiekonzern damit seine Zusammenarbeit mit Nvidia bei der Entwicklung leistungsfähiger Infrastruktur für Anwendungen der Künstlichen Intelligenz fort.