Broadcom mira na NVIDIA com New Tomahawk Ultra Chip, enquanto a batalha da IA aumenta

A Divisão de Chips da Broadcom lançou um novo processador de rede na terça -feira, projetado para turboar cargas de trabalho de inteligência artificial que exigem coordenação rígida entre centenas de unidades de computação.

O anúncio marca outra salva em sua disputa com o líder de fabricação de chips de AI, Nvidia. Este mais recente dispositivo Broadcom, conhecido como Tomahawk Ultra , serve como um controlador de tráfego, transportando vastos volumes de dados entre dezenas ou até centenas de chips de silício alojados em um único rack de servidor.

Tomahawk Ultra desafia diretamente a NVIDIA

O treinamento e a inferência de IA dependem da computação "escala -up", onde os chips são agrupados de perto para compartilhar dados em velocidades de bolhas. Até agora, o interruptor NVLink da NVIDIA reinou supremo para essa tarefa, mas a Broadcom afirma que seu recém -chegado pode vincular até quatro vezes mais processadores em uma única rede.

Em vez de se apoiar em uma interconexão proprietária, o Ultra aproveita uma versão de Ethernet com carga turbo, reforçada para baixa latência e alta taxa de transferência. Ram Velaga , vice -presidente sênior da Broadcom dent gerente geral do grupo de troca de núcleo da Broadcom, disse aos repórteres que o chip pode gerenciar comunicações entre muito mais unidades do que o produto rival da Nvidia, enquanto usava um protocolo amplamente suportado.

"O Tomahawk Ultra é uma prova da inovação, envolvendo um esforço de vários anos de centenas de engenheiros que reimaginaram todos os aspectos do interruptor Ethernet".

VELAGA.

"Isso destaca o compromisso da Broadcom de investir no avanço da Ethernet para redes de alto desempenho e escala de IA", acrescentou Velaga.

A Broadcom já está fornecendo serviços de fabricação de chips para clientes como o Google, ajudando a gigante de pesquisa a reunir seus próprios aceleradores de IA como uma alternativa aos GPUs da NVIDIA .

Com o Tomahawk Ultra Now, a empresa espera corroer ainda mais o domínio da NVIDIA, oferecendo aos arquitetos do Data Center um interruptor que escala a clusters maiores em velocidades semelhantes ou melhores.

Os engenheiros da Broadcom passaram cerca de três anos em desenvolvimento

Os processadores serão fabricados pela Taiwan Semiconductor Manufacturing Co. usando seu nó de cinco nanômetros, o mesmo processo avançado por trás de muitos dos chips mais rápidos do mundo. Velaga observou que as equipes de engenharia da Broadcom passaram cerca de três anos em desenvolvimento, originalmente visando mercados de computação de alto desempenho antes de girar para o setor de IA generativo em expansão.

"As cargas de trabalho de IA e HPC estão convergindo em clusters aceleradoras fortemente acoplados que exigem latência de classe de supercomputador, crítica para inferência, confiabilidade e inteligência em rede da própria tecido", disse Kunjan Sobhani, analista de semicondutor, inteligência da Bloomberg .

“Demonstrar que a Ethernet de padrões abertos agora pode oferecer comutação sub-microssegundos, transporte sem perdas e coletivos no chip marca um passo crucial para atender a essas demandas de uma pilha de expansão da IA, projetada para ser bilhões de dois dígitos em alguns anos.”

Sobhani.

Nas configurações de escala tradicionais, os servidores são espalhados por racks e vinculados por redes padrão, o que adiciona latência. A escala, por outro lado, mantém os elementos de computação em uma pegada física estreita, geralmente um único rack, então os bits saltam para frente e para trás em microssegundos. Esse tipo de velocidade é vital ao treinar redes neurais maciças ou executar inferência em tempo real.

À medida que os modelos de IA crescem cada vez maiores, a corrida está em design de infraestrutura que pode lidar com exabytes de parâmetros, mantendo-se econômico e eficiente em termos de energia. Ao adotar o Ethernet, um padrão aberto e bem compreendido e empurrando seu envelope de desempenho, a Broadcom espera oferecer aos operadores de centros de dados um caminho mais fácil para expandir suas fazendas de IA sem estar preso ao ecossistema de um fornecedor.

Com o Tomahawk Ultra agora nas mãos dos clientes, o concurso sobre quem fornece os motores da AI do mundo está entrando em uma fase nova e mais movimentada, onde a abertura e a escala podem dar um gabinete no equilíbrio, tanto quanto a potência crua. Isso também define a Broadcom no caminho de se tornar uma força a ser reconhecida na indústria da IA.

A empresa estava no primeiro trimestre para se tornar uma das principais empresas a possuir uma participação e operar as fábricas da Intel, juntamente com o TSMC, NVIDIA e AMD, em um acordo proposto pelo TSMC.