A IBM assina um acordo plurianual com a Together AI para um cluster de inferência de US$ 240 milhões com tecnologia Nvidia

A IBM firmou um acordo plurianual de US$ 240 milhões com a Together AI para construir um cluster de inferência dedicado da Nvidia na IBM Cloud, anunciaram as duas empresas na terça-feira.

O novo acordo concede ao provedor de IA de código aberto um bloco de capacidade de GPU de nível empresarial, à medida que ele avança em sua atuação em grandes contas corporativas.

Os sistemas HGX B300 chegarão à IBM Cloud no início de 2027

De acordo com o acordo assinado, a IBM instalará um grande cluster de sistemas Nvidia HGX B300 na IBM Cloud, com a previsão de que o hardware entre em operação no primeiro trimestre de 2027, segundo comunicado.

A Together AI utilizará essa capacidade para realizar inferências em modelos de código aberto. A IBM afirma ser o primeiro cluster dedicado desse porte construído para inferência na IBM Cloud, baseado no B300 e conectado com a rede Ethernet Spectrum-X da Nvidia.

A Nvidia afirmou que a configuração pode gerar 30 vezes mais "produção de fábrica de IA" do que a geração anterior, embora essa afirmação não tenha sido verificada dedent.

Os 400 trilhões de tokens mensais da Together AI serão executados na IBM

A Together AI recebeu uma rodada de financiamento Série C de US$ 800 milhões nos últimos meses, atingindo uma avaliação de mercado de US$ 8,3 bilhões. O objetivo era expandir o que a empresa chama de Nuvem Nativa de IA.

A empresa de IA, fundada em 2022, aluga infraestrutura em nuvem para empresas que desejam construir em plataformas de IA abertas e modulares, em vez de modelos fechados. O comunicado de imprensa da IBM também mencionou que a empresa agora canaliza 400 trilhões de tokens por mês por meio de seu produto de inferência e ajuda a impulsionar mais de um milhão de desenvolvedores.

O cluster da IBM oferece à Together AI uma plataforma para executar sua expansão planejada. O CEO Vipul Ved Prakash afirmou que o acordo foi uma forma de alcançar mais clientes sem obrigá-los a pagar preços exorbitantes.

“As empresas querem o desempenho dos melhores modelos de ponta sem o preço dos modelos proprietários, e isso só funciona se a infraestrutura subjacente for rápida e confiável em grande escala”, disse ele no comunicado. Ele acrescentou ainda que o cluster é “um grande passo em nosso esforço para tornar a IA de código aberto a escolha óbvia para as empresas”

IBM reforça parceria com a Nvidia para atrair startups de IA

Para a IBM, o acordo com a Together AI representa mais um passo em uma parceria crescente e orgânica com a Nvidia. Alan Peacock, gerente geral da IBM Cloud, explicou que a implementação está ligada à demanda corporativa por IA ativa, afirmando que a IBM e a Nvidia estão "fornecendo infraestrutura de IA escalável, econômica e de nível empresarial" para ajudar a Together AI a avançar mais rapidamente.

Dion Harris, diretor sênior de infraestrutura de HPC e IA da Nvidia, descreveu as fábricas de IA como infraestrutura que está se tornando tão básica quanto eletricidade ou telecomunicações.

A IBM afirmou que as duas empresas também têm trabalhado juntas em análises de dados nativas de GPU, além datracde dados não estruturados. As empresas também estão focadas em consultoria e no posicionamento do cluster Together AI como parte importante de uma iniciativa maior para vender capacidade de IA tanto para grandes empresas quanto para startups.

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas.