Lemonade 10.7.0 añade soporte para GPUs NVIDIA con CUDA en Windows y Linux. El movimiento llama la atención porque este servidor de IA local está respaldado por AMD y nació alrededor de Ryzen AI, Radeon y CPUs x86.
La compatibilidad no se queda ahí. La misma versión incorpora soporte CUDA para llama.cpp en Windows y Linux, y también añade soporte CUDA para stable-diffusion.cpp en Linux. En Windows y Linux, stable-diffusion.cpp suma además soporte Vulkan.
Lemonade añade soporte NVIDIA CUDA en Windows y Linux
La actualización llega a través de un nuevo backend llamado llamacpp:cuda. Según el registro de cambios, Lemonade también incluye correcciones para NVIDIA Blackwell y para la detección PRIME en Linux, una pista de que la ruta CUDA ya se está ajustando para hardware más reciente de NVIDIA.
Hasta ahora, Lemonade estaba planteado como un servidor local de IA con compatibilidad de API para OpenAI, Anthropic y Ollama. AMD lo describe como una plataforma que configura de forma automática los backends optimizados de CPU, GPU y NPU para inferencia de texto, imagen y audio. Funciona en Windows, Linux, macOS y Docker.
Más compatibilidad para backends y modelos locales
El salto a CUDA amplía el alcance de Lemonade más allá del terreno habitual de AMD. La fuente insiste en que esta mejora busca aumentar la compatibilidad entre distintos fabricantes de GPU, algo que puede cambiar cómo se despliega el servidor en equipos con hardware variado.
- Soporte CUDA para llama.cpp en Windows y Linux.
- Soporte CUDA para stable-diffusion.cpp en Linux.
- Soporte Vulkan para stable-diffusion.cpp en Windows y Linux.
- Compatibilidad añadida con LMX-Omni para apps con API compatible con OpenAI.
La lista de novedades incluye también soporte para LMX-Omni en aplicaciones que pueden generar salida multimedia, como Open WebUI y AnythingLLM. Junto a eso, Lemonade 10.7.0 estrena un endpoint nativo de Prometheus para monitorización en tiempo real.
Benchmarking integrado para comparar rendimiento local
Otra incorporación es el comando lemonade bench. El proyecto dice que sirve para hacer pruebas de rendimiento de LLM entre llama.cpp, FastFlowLM, vLLM y Ryzen AI software. Eso facilita comparar resultados en el mismo sistema sin salir del entorno de Lemonade.
En la práctica, la actualización deja a Lemonade con un perfil más amplio: sigue apoyándose en el software de AMD, pero ahora también admite GPUs NVIDIA con CUDA y suma herramientas para monitorizar y medir el comportamiento de distintos backends locales.
Puedes seguir a HardwarePremium en Facebook, Twitter (X), Instagram, Threads, BlueSky o Youtube. También puedes consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.
FAQ
La versión 10.7.0 añade soporte CUDA para GPUs NVIDIA mediante un nuevo backend llamacpp:cuda. Ese soporte está disponible en Windows y Linux.
Lemonade incorpora soporte CUDA para stable-diffusion.cpp en Linux. Además, añade soporte Vulkan para stable-diffusion.cpp en Windows y Linux.
Lemonade es un servidor local de IA respaldado por AMD. La fuente lo presenta como un proyecto centrado en Ryzen AI, Radeon GPUs y CPUs x86, aunque ahora amplía su soporte a CUDA.
Sirve para comparar rendimiento de LLM entre llama.cpp, FastFlowLM, vLLM y Ryzen AI software. Según el proyecto, facilita medir distintos backends en un mismo sistema.
Comentarios