NVIDIA ha lanzado Nemotron Lightning, un modelo de IA con 30.000 millones de parámetros que genera tokens hasta 4 veces más rápido. Sin embargo, en tareas agénticas reales existe un cuello de botella IA que limita la mejora a apenas el 30 por ciento. Así lo confirma la propia compañía en su anuncio, apenas horas después de que Meta presentara su modelo Muse Glimmer.
El modelo IA NVIDIA Nemotron Lightning y la orquestación
NVIDIA ha diseñado el modelo IA Nemotron Lightning, pensado para sostener agentes que trabajan de forma constante en tareas rutinarias y de alto volumen. La arquitectura híbrida combina Mamba-Transformer con predicción múltiple de tokens. Además, incluye una mixtura de expertos latente y decodificación especulativa.
Estos cuatro componentes aceleran la generación de texto sin aumentar costes ni crear cuellos de botella. Por un lado, la arquitectura híbrida Mamba-Transformer combina comprensión de contexto con procesamiento rápido. Por otro, Multi-Token Prediction predice varios tokens a la vez en lugar de uno por uno.
La mixtura de expertos latente activa dinámicamente redes especializadas según la tarea. De hecho, la decodificación especulativa usa un modelo borrador que adelanta el texto y el modelo principal lo verifica. El resultado en benchmarks es notable: Nemotron Lightning obtiene 24 puntos en el Artificial Analysis Intelligence Index.
Por qué cuadruplicar tokens no resuelve el cuello de botella IA
Multiplicar por cuatro la salida de tokens genera solo un 30 por ciento de mejora agéntica. Esta disparidad explica que el cuello de botella IA no esté en el modelo, sino en la capa de orquestación. Esa capa es el software que decide qué agente ejecuta cada paso. Determina también el orden de ejecución y el contexto compartido.
Ningún modelo, por rápido que sea, resuelve estos problemas por sí solo. La comparación con la RTX Spark N1X que analizamos en el rendimiento en Geekbench deja un patrón similar. NVIDIA sigue empujando hardware y software a la vez.
De hecho, los cuellos de botella se mueven de sitio en lugar de desaparecer. Por tanto, no sorprende que la compañía ya esté preparando su siguiente apuesta, Nemotron, con al menos un billón de parámetros. Esta versión futura está pensada para competir con los mejores modelos abiertos. Sin embargo, Nemotron Lightning mejora lo que mide, pero no resuelve lo que realmente limita a los agentes autónomos en producción.
Puedes seguir a HardwarePremium en Facebook, Twitter (X), Instagram, Threads, BlueSky o Youtube. También puedes consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.
FAQ
Lightning obtiene 24 puntos en el Artificial Analysis Intelligence Index, una mejora significativa frente a Nano, gracias a su arquitectura híbrida y su mixtura de expertos con 3.000 millones de parámetros activos.
Porque el retraso no está en generar texto, sino en la orquestación: el reparto de tareas entre agentes, la validación de resultados y el paso de contexto de uno a otro consumen tiempo que el modelo no controla.
Es un modelo abierto en desarrollo con al menos un billón de parámetros, con el que NVIDIA busca competir con los modelos abiertos más potentes del mercado y ampliar la demanda de sus propias GPU.
Sí, NVIDIA lo ha lanzado como modelo de pesos abiertos, en un momento en el que fabricantes estadounidenses intentan hacer frente al dominio chino en este segmento.
QIDI Plus5, unboxing completo y primera impresión
Este teclado se activa con 0,1 mm | Razer Huntsman V3 HE Mini
Esta AIO NO necesita cables… pero hay truco
Dejé de repetir tomas gracias a este teleprompter
¿La silla que iguala a un Herman Miller… con motor y masaje incluido?
Comentarios