IBM se ha comprometido a firmar un acuerdo plurianual de 240 millones de dólares con Together AI para construir un clúster de inferencia dedicado de Nvidia en IBM Cloud, según anunciaron ambas compañías el martes.
El nuevo acuerdo otorga al proveedor de IA de código abierto un bloque de capacidad de GPU de nivel empresarial, a medida que profundiza su presencia en grandes cuentas corporativas.
Según el acuerdo firmado, IBM instalará un gran clúster de sistemas Nvidia HGX B300 en IBM Cloud, y se espera que el hardware entre en funcionamiento en el primer trimestre de 2027, según el comunicado.
Together AI utilizará esta capacidad para realizar inferencias en modelos de código abierto. IBM afirma que se trata del primer clúster dedicado de este tamaño construido para inferencia en IBM Cloud en torno al B300, conectado mediante la red Ethernet Spectrum-X de Nvidia.
Nvidia afirmó que la configuración puede generar 30 veces más "producción de fábrica de IA" que su generación anterior, aunque esta afirmación no ha sido verificada dedentindependiente.
Together AI obtuvo en los últimos meses una ronda de financiación Serie C de 800 millones de dólares, alcanzando una valoración de 8.300 millones de dólares. El objetivo era expandir lo que la compañía denomina su plataforma nativa de IA en la nube.
La empresa de IA, fundada en 2022, alquila infraestructura en la nube a compañías que desean desarrollar soluciones basadas en plataformas de IA abiertas y modulares en lugar de modelos cerrados. El comunicado de prensa de IBM también menciona que la compañía gestiona actualmente 400 billones de tokens al mes a través de su producto de inferencia y da soporte a más de un millón de desarrolladores.
El clúster de IBM proporciona a Together AI una plataforma sólida para su expansión. El director ejecutivo, Vipul Ved Prakash, afirmó que el acuerdo era una forma de llegar a más clientes sin obligarlos a pagar precios exorbitantes.
«Las empresas buscan el rendimiento de los mejores modelos de vanguardia sin el precio de los modelos cerrados, y eso solo es posible si la infraestructura subyacente es rápida y fiable a gran escala», afirmó en el comunicado. Añadió que el clúster representa «un gran paso en nuestro empeño por convertir la IA de código abierto en la opción obvia para las empresas»
Para IBM, el acuerdo con Together AI representa un nuevo paso en su creciente colaboración con Nvidia. Alan Peacock, director general de IBM Cloud, explicó que la implementación responde a la demanda corporativa de IA con agentes, y afirmó que IBM y Nvidia están "proporcionando una infraestructura de IA escalable, económica y de nivel empresarial" para ayudar a Together AI a avanzar con mayor rapidez.
Dion Harris, director sénior de infraestructura de HPC e IA en Nvidia, describió las fábricas de IA como una infraestructura que se está volviendo tan básica como la electricidad o las telecomunicaciones.
IBM afirmó que ambas compañías también han colaborado en el análisis de datos nativos de GPU, además de latracde datos no estructurados. Asimismo, se centran en la consultoría y en posicionar el clúster Together AI como una pieza clave dentro de una estrategia más amplia para ofrecer capacidad de IA tanto a grandes empresas como a startups.
Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!