Nvidia ha reforzado su apuesta por la inteligencia artificial abierta con Nemotron 3.5 Lightning, un modelo de pesos abiertos diseñado específicamente para actuar como capa de ejecución de agentes de IA. La propuesta busca resolver uno de los problemas de la IA agéntica: ejecutar grandes volúmenes de tareas repetitivas (como llamadas a herramientas, validación de resultados o delegación entre agentes) sin recurrir constantemente a modelos de frontera más costosos.
Nemotron 3.5 Lightning utiliza una arquitectura Mixture-of-Experts (MoE) con 30.000 millones de parámetros totales de los que aproximadamente 3.000 millones se activan para cada token. Esta configuración permite reducir el coste computacional frente a modelos que necesitan activar todos sus parámetros durante la inferencia.
La compañía lo ha diseñado para tareas de ejecución de alta frecuencia dentro de agentes autónomos. En lugar de utilizar un modelo avanzado para cada paso de un proceso, Lightning puede encargarse de las operaciones más numerosas y repetitivas, reservando los modelos de mayor capacidad para las decisiones que realmente requieren razonamiento complejo.
Según las pruebas de Nvidia, el modelo puede alcanzar hasta cuatro veces más velocidad de generación que modelos abiertos de tamaño similar. La compañía también destaca mejoras en el tiempo necesario para completar determinadas tareas agénticas. Estas cifras son resultados comunicados por Nvidia y dependen del hardware y de la configuración utilizada.
Pensado para agentes, no para competir directamente con ChatGPT
La diferencia fundamental está en su propósito. Nemotron 3.5 Lightning no pretende ser un chatbot generalista al estilo de ChatGPT, sino una pieza especializada dentro de sistemas de agentes. Los agentes de IA pueden dividir una tarea compleja en múltiples pasos: consultar información, utilizar herramientas, comprobar resultados, ejecutar código o solicitar ayuda a otro modelo. Cada una de esas operaciones genera llamadas adicionales al modelo.
Ahí es donde Nvidia pretende situar a Lightning: como un modelo rápido y eficiente para gestionar esas operaciones de ejecución. La compañía sostiene que utilizar modelos de frontera para cada una de ellas introduce costes y latencias innecesarios.
NeMo Switchyard: decidir qué modelo utiliza cada tarea
Junto al nuevo modelo, Nvidia ha presentado NeMo Switchyard, una biblioteca de código abierto para enrutar las solicitudes de los agentes hacia distintos modelos en función de la complejidad de cada tarea. La lógica es similar a la de un sistema de gestión de tráfico: las tareas sencillas pueden dirigirse hacia modelos pequeños y rápidos, mientras que aquellas que requieren mayor capacidad de razonamiento pueden enviarse a modelos más avanzados. El objetivo es equilibrar coste, latencia y rendimiento, evitando utilizar un modelo de máxima capacidad cuando no sea necesario.
IA local y mayor control sobre los datos
La estrategia de Nvidia coincide además con el creciente interés empresarial por ejecutar modelos de IA directamente en infraestructuras propias. Los modelos abiertos permiten a las organizaciones adaptar el software, utilizar sus propios datos y decidir dónde ejecutar las cargas de trabajo. Esto resulta especialmente relevante para sectores que manejan información sensible o sometida a requisitos regulatorios. Nvidia presenta precisamente sus nuevos modelos y herramientas como una vía para obtener mayor control sobre los datos, los flujos de trabajo y el lugar donde se ejecuta la IA, desde dispositivos y estaciones de trabajo hasta centros de datos y servicios en la nube.
La apuesta de Nvidia por el software abierto
Nvidia es uno de los principales proveedores de la infraestructura de cómputo sobre la que se ejecutan los modelos de IA y está tratando de ampliar ese ecosistema también desde el software. La estrategia consiste en facilitar que más desarrolladores y empresas creen agentes y aplicaciones de IA y, al mismo tiempo, proporcionar las herramientas y el hardware necesarios para ejecutarlos. La compañía ya ha construido una familia de modelos abiertos Nemotron orientados a agentes y ha reforzado su apuesta por modelos que puedan adaptarse y ejecutarse en diferentes entornos.
Por tanto, Nvidia no está intentando convertirse simplemente en otro competidor de OpenAI en el mercado de chatbots. Su apuesta busca, más bien, contribuir a construir el ecosistema de modelos, herramientas y aceleradores sobre el que se desarrollará la próxima generación de aplicaciones de IA agéntica. Y en esa batalla, hacer que los modelos sean más rápidos, baratos y fáciles de desplegar puede ser tan importante como hacerlos más inteligentes.
