Los costos de inferencia se desploman un 90%. Nvidia se asocia con LangChain para definir los estándares de los agentes, compitiendo por nuevos puntos de entrada para aplicaciones de IA

TradingKey - El 8 de julio, NVIDIA ( NVDA) y el marco de desarrollo de IA LangChain lanzaron conjuntamente el blueprint NVIDIA NeMoClaw Deep Agents. Este movimiento significa la expansión integral de NVIDIA de un mero proveedor de potencia de cálculo de IA a una plataforma de ecosistema que define los estándares de desarrollo de Agents de nivel empresarial, abriendo un nuevo espacio de crecimiento para su negocio de software.

El blueprint proporciona a las empresas una arquitectura de referencia abierta, personalizable y gobernable para agentes de IA, con el objetivo de resolver desafíos fundamentales como la controlabilidad, la gobernanza y la evolución continua que enfrentan las empresas en el despliegue de agentes.

En lugar de simplemente mejorar las capacidades de los modelos, este blueprint pone un mayor énfasis en las capacidades de ingeniería de software de los Agents de nivel empresarial. Los datos oficiales muestran que esta solución no solo logra un rendimiento líder en múltiples benchmarks, sino que también reduce los costos de inferencia de los Agents en más de 10 veces. Esto genera una sinergia entre hardware y software con la plataforma de inferencia Blackwell, reduciendo aún más los costos de despliegue de las aplicaciones de IA.

A medida que la IA generativa avanza desde la generación de contenido hacia la ejecución autónoma de tareas, los Agents se están convirtiendo en el núcleo de las aplicaciones de IA empresariales. Sin embargo, las empresas se han enfrentado constantemente a desafíos durante el despliegue, tales como la seguridad, la controlabilidad y la dificultad de integración con los procesos de negocio.

El núcleo del blueprint recientemente lanzado no es construir un nuevo marco de Agents, sino proporcionar una arquitectura de referencia completa de nivel empresarial. Basado en la colaboración con LangChain, el blueprint adopta un diseño de arquitectura abierta, lo que permite a las empresas tener un control total sobre los sistemas subyacentes, personalizar las capacidades de los Agents y realizar iteraciones continuas a medida que evoluciona su negocio, en lugar de depender de una plataforma cerrada.

Enfoque en la gobernanza de agentes para resolver los puntos críticos de la implementación a nivel empresarial

En lugar de enfatizar "qué tareas puede completar el Agente", la solución presentada por NVIDIA en esta ocasión se centra más en cómo se gobiernan, supervisan, auditan y optimizan continuamente los Agentes. Esta capacidad es especialmente crítica para industrias altamente reguladas como las finanzas, la atención médica y el gobierno, y también reduce la barrera para que las empresas implementen Agentes a escala.

Harrison Chase, cofundador y CEO de LangChain, declaró: "La clave para construir mejores agentes radica en mejorar continuamente los sistemas que rodean al modelo. Cuando los equipos pueden sintonizar de manera síncrona la memoria, el uso de herramientas, la evaluación y el comportamiento del modelo, estas capacidades generan un efecto sinérgico. Nuestra colaboración con NVIDIA demuestra que las empresas no solo pueden lograr un rendimiento potente a través de una pila abierta, sino también mantener el control sobre los sistemas de agentes que construyen".

A medida que los Agentes asumen tareas de riesgo cada vez más alto, evolucionando de asistentes de preguntas y respuestas a entidades de ejecución capaces de tomar medidas dentro de los sistemas principales, las demandas de las empresas sobre la controlabilidad y la seguridad de los sistemas de IA están aumentando.

La arquitectura abierta proporcionada por el diseño de NeMo Claw permite a las empresas poseer la pila tecnológica completa de extremo a extremo, lo que les permite personalizar y mejorar continuamente en función de sus ventajas profesionales únicas, y ejecutarla en cualquier entorno, incluida su propia infraestructura, nubes privadas y marcos de gobernanza patentados.

Reducción de costos mediante la sinergia entre hardware y software

El control de costes siempre ha sido el principal cuello de botella para la comercialización a gran escala de la IA, y el diseño de NeMoClaw demuestra ventajas significativas en este sentido.

Según los datos de evaluación publicados por LangChain, el modelo Nemotron 3 Ultra, equipado con la suite Deep Agents, logró una puntuación integral de 0,86, con un coste de inferencia por tarea única de solo 4,48 dólares, mientras que el modelo de la competencia más cercano costaba hasta 43,48 dólares, lo que representa una reducción de aproximadamente el 90%. Este logro no se debió al reentrenamiento del modelo en sí, sino que se consiguió optimizando las estrategias de llamada a herramientas, los mecanismos de gestión del contexto y los flujos de trabajo de razonamiento intermedio.

A nivel de hardware, la arquitectura Blackwell de Nvidia ya ha reducido el coste de inferencia por token a aproximadamente 1/35 de la plataforma de la generación anterior mediante actualizaciones arquitectónicas, mejorando significativamente la eficiencia del rendimiento de inferencia.

El diseño de NeMoClaw aprovecha aún más el potencial del hardware desde el nivel de software. A través de la optimización sistemática de la planificación de tareas del Agente, la llamada a herramientas, la gestión del contexto y las rutas de razonamiento, permite que la misma potencia de cálculo admita más tareas, maximizando la sinergia entre el hardware y el software.

Este lanzamiento es un paso clave para Nvidia en el perfeccionamiento de su ecosistema de software NeMo, abordando las deficiencias en la capa de desarrollo de Agentes. En los últimos años, Nvidia ha creado una pila de software de IA completa en torno a CUDA, TensorRT, NIM y NeMo, con el objetivo de convertirse en una plataforma de extremo a extremo que cubra el entrenamiento de modelos, el despliegue de inferencias y el desarrollo de aplicaciones empresariales.

A medida que los Agentes se convierten en el soporte principal de las aplicaciones de IA, los marcos de desarrollo están emergiendo como la nueva puerta de acceso al ecosistema. La asociación con LangChain permite a Nvidia integrar sus capacidades en los flujos de trabajo de IA empresarial a través de los marcos convencionales, compitiendo por el dominio en la era de los Agentes más allá de la mera infraestructura.

Para los mercados de capitales, este diseño estratégico es de gran importancia. Con la maduración de la competencia en la infraestructura de IA, resulta difícil sostener la expansión de la valoración apoyándose únicamente en las ventas de GPU, mientras que el software y los servicios de plataforma ofrecen mayores márgenes brutos y fidelidad de los clientes.

Al perfeccionar el ecosistema NeMo y extenderse hacia los estándares de Agentes, Nvidia está evolucionando de ser un proveedor de hardware a convertirse en una plataforma de ecosistema de IA de pila completa, sentando las bases para captar más ingresos por software y primas por ecosistema en el futuro.

Actualmente, empresas como Abridge, Amdocs y Box han integrado agentes especializados en sus plataformas, e integradores de sistemas como EY están ampliando las capacidades de despliegue de tecnología de Nvidia en torno al diseño de NeMoClaw para ayudar a los clientes a personalizar, evaluar y gobernar agentes en flujos de trabajo de alto valor.

A largo plazo, el diseño de Nvidia no solo consiste en captar cuota de mercado en la era de los Agentes, sino también en construir una barrera inquebrantable en el ecosistema de la IA.

A través de una solución de pila completa caracterizada por la sinergia entre hardware y software, Nvidia está vinculando firmemente a los clientes a su ecosistema tecnológico, consolidando su posición central en la cadena de la industria de la IA y preparándose plenamente para la próxima explosión de las aplicaciones de IA.