La división de chips de Broadcom lanzó un nuevo procesador de redes el martes, diseñado para turboar cargas de trabajo de inteligencia artificial que exigen una estricta coordinación entre cientos de unidades de cómputo.
El anuncio marca otra salva en su pelea con el líder de fabricación de chips de IA, Nvidia. Este último dispositivo de Broadcom, conocido como Tomahawk Ultra , sirve como controlador de tráfico, que sigue grandes volúmenes de datos entre docenas o incluso cientos de chips de silicio alojados dentro de un solo estante de servidor.
El entrenamiento e inferencia de IA depende de la computación de "escala", donde las chips se agrupan de cerca para compartir datos a velocidades de ampollas. Hasta ahora, el Nvlink Switch de NVIDIA reinó Supreme para esa tarea, pero Broadcom afirma que su recién llegado puede vincular a cuatro veces más procesadores en una sola red.
En lugar de apoyarse en una interconexión patentada, la ultra aprovecha una versión turboalimentada de Ethernet, reforzada para una latencia de baja latencia y alto rendimiento. Ram Velaga , vicepresidente senior de Broadcom dent gerente general del grupo de conmutación de Broadcom, dijo a los periodistas que el chip puede administrar las comunicaciones entre muchas más unidades que el producto rival de Nvidia, todo mientras usa un protocolo ampliamente compatible.
"Tomahawk Ultra es un testimonio de la innovación, que implica un esfuerzo de varios años por parte de cientos de ingenieros que reinventaron todos los aspectos del interruptor de Ethernet".
Velaga.
"Esto destaca el compromiso de Broadcom de invertir en el avance de Ethernet para redes de alto rendimiento y ampliación de IA", agregó Velaga.
Broadcom ya ha estado suministrando servicios de fabricación de chips a clientes como Google, ayudando al gigante de la búsqueda a ensamblar sus propios aceleradores de IA como alternativa a las GPU de NVIDIA .
Con el envío de Tomahawk Ultra Now, la compañía espera erosionar aún más el dominio de NVIDIA al ofrecer a los arquitectos del centro de datos un interruptor que escala a grupos más grandes a velocidades similares o mejores.
Los procesadores serán fabricados por Taiwan Semiconductor Manufacturing Co. utilizando su nodo de cinco nanómetros, el mismo proceso avanzado detrás de muchos de los chips más rápidos del mundo. Velaga señaló que los equipos de ingeniería de Broadcom pasaron aproximadamente tres años en desarrollo, originalmente apuntando a los mercados informáticos de alto rendimiento antes de girar al en auge sector de IA generativo.
"Las cargas de trabajo AI y HPC se convergen en grupos aceleradores estrechamente acoplados que exigen latencia de clase supercomputadora, crítica para la inferencia, confiabilidad e inteligencia en la red del tejido en sí", dijo Kunjan Sobhani, analista de semiconductores líderes, inteligencia de Bloomberg .
"Demostrando que Ethernet de estándares abiertos ahora puede entregar el cambio de submicrosegundos, el transporte sin pérdidas y los colectivos en chip marcan un paso fundamental para satisfacer esas demandas de una pila de ampliación de IA, que se proyecta ser de dos dígitos en unos pocos años".
Sobhani.
En las configuraciones de escala tradicionales, los servidores se extienden a través de bastidores y se vinculan a través de redes estándar, lo que agrega latencia. La escala, por el contrario, mantiene elementos de cómputo dentro de una huella física estrecha, a menudo un solo estante, por lo que los bits rebotan en microsegundos. Ese tipo de velocidad es vital cuando se capacita en redes neuronales masivas o que ejecutan inferencia en tiempo real.
A medida que los modelos de IA se vuelven cada vez más grandes, la carrera está en diseño de infraestructura que puede manejar exabytes de parámetros mientras se mantiene rentable y potencia eficiente. Al adoptar Ethernet, un estándar bien entendido, abierto y empujando su sobre de rendimiento, Broadcom espera ofrecer a los operadores de centros de datos un camino más fácil para expandir sus granjas de IA sin estar encerrados en el ecosistema de un proveedor.
Con Tomahawk Ultra ahora en manos de los clientes, el concurso sobre quién proporciona los motores de IA del mundo está entrando en una fase nueva y más concurrida, una en la que la apertura y la escala podrían inclinar el equilibrio tanto como la potencia de chip de crudo. Esto también establece a Broadcom en el camino para convertirse en una fuerza a tener en cuenta en la industria de la IA.
La compañía estaba en el primer trimestre con propina para convertirse en una de las principales empresas para poseer una estaca y operar las fábricas de Intel junto con TSMC, NVIDIA y AMD, en un acuerdo propuesto por TSMC.
Academia Cryptopolitan: ¿Quieres hacer crecer tu dinero en 2025? Aprenda cómo hacerlo con DeFi en nuestra próxima clase web. Guarda tu lugar