NVIDIA presenta la Vera CPU como un procesador pensado para orquestar agentes de IA, y su equipo admite que el rendimiento monohilo vuelve a pesar más que el número de núcleos. Durante años la infraestructura en la nube primó la cantidad de núcleos sobre la velocidad de cada uno. Ahora la IA agéntica obliga a dar marcha atrás. Así lo explicó el propio equipo de Vera en una entrevista exclusiva. En ella situó su rendimiento en 1,5 veces el de Grace y hasta 2 veces el de los x86 líderes en cargas agénticas.
Los chiplets ganaron núcleos y perdieron velocidad por núcleo
A principios de la década de 2010, el diseño de centros de datos buscaba exprimir cada núcleo en lugar de multiplicarlos. Intel, entonces líder del mercado, apostaba por arquitecturas como Haswell, con menos núcleos y frecuencias más altas. Según el equipo, aquella etapa ocupa el cuadrante superior izquierdo del diseño de CPU: mucho rendimiento monohilo, pero poco caudal total.
«Es una época en la que Intel lideraba la cuota de mercado en centros de datos… tienes un alto rendimiento monohilo, pero poco caudal, porque no tienes tantos núcleos.»
Con el auge de los grandes proveedores de nube, la industria se volcó en la economía de escala. Cuantos más núcleos cupieran en un servidor, más se rentabilizaba cada unidad. Para lograr esa densidad y contener costes, los fabricantes x86 abandonaron los diseños de un solo chip a favor de varios chiplets. El salto en núcleos se pagó directamente con el rendimiento monohilo y las instrucciones por ciclo (IPC). Esa etapa corresponde al cuadrante inferior derecho, con mucho caudal y poca velocidad por núcleo.
«…lo que salió perjudicado en ese tiempo, en cuanto a diseño de CPU, fue el rendimiento monohilo y el IPC, porque cuando usas chiplets, literalmente no tienes espacio en el chip para diseñar pensando en el rendimiento por núcleo.»
Por qué la IA agéntica devuelve la CPU al centro del diseño
La IA agéntica ha devuelto la CPU al centro del diseño. Los agentes trabajan en un bucle continuo y rápido entre la GPU y la CPU. Como las GPU son el activo más caro de una fábrica de IA, la CPU debe terminar al instante su trabajo secuencial y evitar que queden paradas. Eso exige a la vez velocidad, acceso a memoria y una latencia mínima.
«…quieres que el agente complete el trabajo secuencial que necesite en la CPU, pero que luego vuelva a la GPU para el siguiente paso de razonamiento, porque tus GPU siguen siendo de lo más valioso de tu fábrica de IA, y quieres mantener esos activos caros muy utilizados…»
La CPU Vera apunta al cuadrante superior derecho
Vera es la primera CPU de NVIDIA diseñada expresamente para IA agéntica, como contamos al informar del envío de los primeros servidores con ese chip. Su objetivo es romper el equilibrio forzoso de la era de la nube y combinar alto rendimiento monohilo con alto caudal. Para lograrlo, el equipo señala tres decisiones de diseño:
- Alta velocidad por núcleo
- Un subsistema de memoria LPDDR5X a medida, con un ancho de banda enorme
- Un único die de cómputo monolítico, con la segunda generación de NVIDIA Scalable Coherent Fabric para eliminar la latencia
Al ser un único die, todos los núcleos se comunican entre sí sin cruzar fronteras de entrada/salida ni sufrir la latencia que eso añade. El equipo lo presenta como lo que distingue a Vera de lo anterior.
«…es un único die monolítico, todos los núcleos de ese único die de cómputo pueden hablar entre sí sin cruzar ninguna frontera de E/S ni incurrir en latencia por ello, y esa es la base de lo que es Vera, de por qué creemos que es diferente; crea una categoría nueva: si volvemos al cuadrante que describía, no es la CPU de antes de la nube ni la CPU de la nube, es el cuadrante superior derecho, con alto rendimiento monohilo y también alto caudal.»
Racks solo de CPU y 2x frente a x86 en cargas agénticas
Se le preguntó al equipo si NVIDIA contempla una desagregación de funciones de la CPU similar a la que plantea SK Hynix con HTPU. Este sistema reúne unos 100 procesadores diminutos dentro de un SSD para las tareas repetitivas de bajo nivel. El procesador general se queda las de alto nivel. Respondieron que la desagregación es una tendencia general en la infraestructura de IA. En inferencia, por ejemplo, la lectura inicial de datos (pre-fill) y la generación secuencial de tokens (decode) ya se separan en clústeres distintos. Sobre ese caso concreto dijeron no saber si tienen planes parecidos.
La estrategia original con Grace buscaba el mejor nodo anfitrión posible para alimentar de datos a un grupo de GPU, a razón de una CPU por cada cuatro u ocho aceleradores en un rack. Después NVIDIA vio que había un uso para muchas CPU independientes. Se trata de racks enteros de procesadores para las llamadas a herramientas de los agentes y para el aprendizaje por refuerzo.
«…estábamos centrados en la CPU con Grace como nodo anfitrión, en el 1-8 o el 1-4 de un rack, queríamos el mejor nodo anfitrión posible. Luego nos dimos cuenta de que hay un punto en el que querrías muchas CPU independientes, racks puros de CPU, para todas esas llamadas a herramientas de agentes, para el aprendizaje por refuerzo…»
Por eso Vera ya no es solo un componente integrado en la plataforma conjunta de GPU y CPU, como Vera-Rubin. También se comercializa como CPU independiente. Para el equipo, ese giro es en sí mismo un paso hacia la desagregación.
Cómo rinde la CPU Vera de NVIDIA frente a Grace y x86
Otra pregunta recordó que NVIDIA cifra el IPC de Vera un 50 % por encima del de Grace, con una anchura de decodificación de 10 instrucciones. También pidió una idea aproximada de la latencia de recuperación ante un fallo de predicción de saltos. En su respuesta, el equipo se centró en el rendimiento global. Vera es 1,5 veces más rápida que Grace y hasta 2 veces más rápida que la mejor CPU x86 en cargas agénticas. Estas dependen de tareas secuenciales como los scripts de Python o la compilación de código. En media geométrica, la ventaja es de 1,6 veces.
En lugar del multihilo simultáneo tradicional, NVIDIA usa su propio multihilo espacial. Esta función nativa de la CPU permite reservar de forma fija un hilo de trabajo y otro de entrada/salida. Con ello, ni siquiera una carga pesada en todo el centro de datos deja a un núcleo sin ciclos para su hilo principal. El equipo contrasta este enfoque con el de otras arquitecturas. Allí el hilo de trabajo puede perder ciclos para alimentar la entrada/salida u otros núcleos cuando aumenta la carga.
Puedes seguir a HardwarePremium en Facebook, Twitter (X), Instagram, Threads, BlueSky o Youtube. También puedes consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.
Preguntas frecuentes
Es la primera CPU de NVIDIA diseñada específicamente para IA agéntica. Combina alto rendimiento monohilo con alto caudal gracias a un die de cómputo monolítico, una memoria LPDDR5X a medida y la segunda generación de Scalable Coherent Fabric.
Según el equipo de NVIDIA, Vera es 1,5 veces más rápida que Grace. Frente a la mejor CPU x86 es hasta 2 veces más rápida en cargas agénticas, con una ventaja de 1,6 veces en media geométrica.
Según el equipo, al usar chiplets no queda espacio en el chip para diseñar pensando en el rendimiento por núcleo. Los fabricantes x86 los adoptaron para aumentar la densidad de núcleos y controlar costes, a costa del rendimiento monohilo y el IPC.
No. NVIDIA comercializa Vera también como CPU independiente, con racks formados solo por estos procesadores para llamadas a herramientas de agentes y aprendizaje por refuerzo.
¿Cyberpunk y RDR2 en una portátil? Estos son los FPS reales 🎮 #shorts
1.399 € por la portátil más bonita de ASUS… ¿me compensa? 😅 #shorts
¿Cansado de llegar tarde a los chollos? ¡Está web te avisa antes!
¿8.000 Hz de verdad? Lo he medido 🔍 #shorts
Una pantalla de 171" en unas gafas 🤯 ASUS ROG XREAL R1
Comentarios