Que AMD Lemonade obtuviera silenciosamente soporte para Nvidia es el tipo de pequeño lanzamiento que resuelve un gran problema del mundo real. Cualquiera que ejecute LLM locales en más de una máquina ha tenido que duplicar su almacén de modelos, reajustar sus cuantificaciones y hacer malabares con dos runtimes diferentes para mantener su pila usable en un escritorio doméstico y un portátil de trabajo. La portabilidad es todo el argumento de venta de la IA local, y hasta este año la mayoría de los runtimes estaban bloqueados en una sola familia de hardware.
Probamos ocho runtimes de IA local para escritorio que hacen de la portabilidad de hardware una característica de primera clase. La lista mezcla herramientas de múltiples proveedores diseñadas especialmente con runtimes antiguos que se han puesto al día en el lado de múltiples backends. Cada opción se ejecuta en al menos Windows y Linux, seis se ejecutan en macOS con aceleración Apple Silicon, y los ocho pueden mover un archivo de modelo GGUF de una máquina a otra sin rework.
Qué buscar en un runtime de IA local portátil
La portabilidad es lo que hace que un runtime obtenga un lugar en la lista, pero algunas cosas separan las opciones que se mueven bien de las que lo afirman.
- Soporte de GPU de múltiples proveedores. Nvidia CUDA, AMD ROCm o Vulkan, Apple Metal, Intel Arc. Dos proveedores es el mínimo, tres es portátil
- Neutralidad de formato de modelo. GGUF es la lingua franca actual. Cualquier cosa que solo lee su propio formato pierde puntos
- API compatible con OpenAI. Si un runtime no expone uno, tu código cliente existente se rompe en el movimiento
- Portabilidad de configuración. Una tarjeta de modelo que se envía en el runtime es mejor que una que construyes desde cero en la máquina de destino
- Huella de instalación. Un único ejecutable se mueve más fácil que una pila de cinco servicios Docker
- Almacén de modelos. El runtime no debe forzar la descarga de un modelo que ya tienes en el disco
Comparación rápida
| Runtime | Mejor para | Proveedores GPU | SO | Destacado |
|---|---|---|---|---|
| Ollama | Token de primera vez más rápido | Nvidia, AMD, Apple, CPU | Windows, macOS, Linux | Almacén de modelos que puedes señalar entre máquinas |
| LM Studio | Pruebas de múltiples proveedores basadas en GUI | Nvidia, AMD, Apple, Intel | Windows, macOS, Linux | Backend MLX en Apple Silicon |
| llama.cpp | El runtime que todos los demás clonan | Nvidia, AMD (Vulkan), Apple | Windows, macOS, Linux | Lanzamiento de binario único |
| Jan | Reemplazo de ChatGPT de código abierto | Nvidia, AMD, Apple, CPU | Windows, macOS, Linux | Servidor compatible con OpenAI local en el puerto 1337 |
| GPT4All | Principiantes con hardware modesto | CPU, Nvidia, AMD | Windows, macOS, Linux | Se ejecuta limpiamente en Snapdragon X ARM |
| AMD Lemonade | Primero AMD con soporte para Nvidia | AMD NPU, AMD GPU, Nvidia GPU | Windows, Linux | Programación consciente de NPU para Ryzen AI 300 |
| KoboldCpp | Runtime de contexto largo de archivo único | Nvidia, AMD, Apple, CPU | Windows, macOS, Linux | Envía gen de imagen y TTS en el mismo binario |
| Text Generation WebUI | Usuarios avanzados que quieren cada botón | Nvidia, AMD, Apple, CPU | Windows, macOS, Linux | Cada cargador y cada tipo de quant en una interfaz |
1. Ollama - Mejor para el token de primera vez más rápido
Ollama es el camino más corto desde ollama pull a un modelo en ejecución, y el almacén de modelos Ollama es lo más cercano a un administrador de paquetes que tiene la IA local. La historia de portabilidad se fortaleció en 2025 cuando las compilaciones de Windows y Linux se trasladaron a un formato de directorio de modelos compartido, por lo que señalar OLLAMA_MODELS a una carpeta sincronizada significa que los mismos modelos aparecen en ambas máquinas.
Dónde se queda corto: El keep-alive de cinco minutos predeterminado vuelve a cargar modelos constantemente. Establece OLLAMA_KEEP_ALIVE en un valor más largo en cualquier máquina de usuario único.
Precio: Gratis, licencia MIT.
Plataformas: Windows, macOS, Linux.
Descargar: ollama.com
Conclusión: Cómpralo si quieres la ergonomía más rápida. El ecosistema de Ollama es ahora más grande que todos los demás runtimes combinados.
2. LM Studio - Mejor para pruebas de múltiples proveedores basadas en GUI
LM Studio ofrece una de las mejores experiencias de GUI para IA local, y su soporte de múltiples backends lo pone un paso adelante para pruebas de múltiples proveedores. El backend MLX en Apple Silicon lee aproximadamente un 30 a 50 por ciento más rápido que el mismo modelo en llama.cpp Metal, lo que es un gran margen para la multitud de Mac Studio y MacBook Pro.
Dónde se queda corto: La licencia comercial del equipo cambió de precio en 2025. El uso personal sigue siendo gratuito.
Precio: Gratis para uso personal.
Plataformas: Windows, macOS, Linux.
Descargar: lmstudio.ai
Conclusión: La opción si quieres una interfaz gráfica adecuada y divides tu trabajo entre Nvidia y Apple Silicon.
3. llama.cpp - Mejor runtime que todos los demás clonan
llama.cpp es la implementación de referencia que envuelven la mayoría de otros runtimes. El lanzamiento de binario único desde 2024 hace que la portabilidad sea trivial, y el backend Vulkan agregó soporte AMD de primera clase sin el dolor de instalación de ROCm. Las compilaciones de Metal, CUDA, Vulkan y CPU leen los mismos archivos GGUF.
Dónde se queda corto: La CLI es la interfaz. No hay interfaz gráfica predeterminada.
Precio: Gratis, licencia MIT.
Plataformas: Windows, macOS, Linux.
Descargar: github.com/ggerganov/llama.cpp
Conclusión: La opción si quieres el binario más delgado. El runtime de todos los demás se sienta encima de este.
4. Jan - Mejor reemplazo de ChatGPT compatible con OpenAI
Jan es uno de los reemplazos de ChatGPT de código abierto más fuertes en el escritorio. Su servidor compatible con OpenAI en el puerto 1337 significa que cada biblioteca de cliente de OpenAI habla con él sin rework, y el soporte de MCP desde 2024 permite que Jan se conecte a agentes de llamadas de herramientas.
Dónde se queda corto: El almacén de modelos es más pequeño que el de Ollama.
Precio: Gratis, Apache 2.0.
Plataformas: Windows, macOS, Linux.
Descargar: jan.ai
Conclusión: Cómpralo si quieres un reemplazo de ChatGPT que mantenga tu código cliente de OpenAI existente portátil.
5. GPT4All - Mejor para hardware modesto
GPT4All se ejecuta en hardware que otros runtimes se niegan a arrancar. El soporte de Snapdragon X ARM ha sido un ciudadano de primera clase desde 2024, y la inferencia de solo CPU se trata como un objetivo, no un retroceso. La función Local Docs de Nomic mantiene los documentos indexados en el dispositivo.
Dónde se queda corto: El catálogo de modelos se cura más pequeño que Ollama o LM Studio.
Precio: Gratis, licencia MIT, uso comercial permisivo.
Plataformas: Windows, macOS, Linux.
Descargar: gpt4all.io
Conclusión: La opción si la máquina de destino es un portátil de trabajo sin GPU dedicada.
6. AMD Lemonade - Mejor AMD primero con soporte para Nvidia
AMD Lemonade comenzó como la pila de IA local de AMD para NPU de la serie Ryzen AI 300, y el soporte de Nvidia en 2026 lo pone en la conversación de portabilidad. La programación consciente de NPU de Lemonade lo hace el runtime local más rápido en un portátil Ryzen AI 300, y el soporte de Nvidia significa que puedes llevar la misma configuración entre un portátil AMD de trabajo y un escritorio Nvidia hogar.
Dónde se queda corto: La documentación se queda atrás de Ollama y LM Studio. macOS no es compatible.
Precio: Gratis, licencia MIT.
Plataformas: Windows, Linux.
Descargar: lemonade-sdk.github.io
Conclusión: Mejor runtime para cualquiera en una máquina Ryzen AI. Ahora portátil a Nvidia si divides el tiempo entre los dos.
7. KoboldCpp - Mejor runtime de contexto largo de archivo único
KoboldCpp se envía como un ejecutable, sin instalador, sin servicio y sin dependencias. Lee GGUF, envía gen de imagen y TTS en el mismo binario, y su gestión de contexto es la más fuerte para escritura de forma larga.
Dónde se queda corto: La interfaz es funcional, no bonita.
Precio: Gratis, AGPL.
Plataformas: Windows, macOS, Linux.
Descargar: github.com/LostRuins/koboldcpp
Conclusión: El runtime para mantener en una memoria USB.
8. Text Generation WebUI - Mejor para usuarios avanzados
Text Generation WebUI de Oobabooga es el runtime que expone cada botón. Cada cargador, cada tipo de quant, cada formato de tarjeta de personaje, todo en una interfaz Gradio. No para nadie que quiera “simplemente funciona”, pero la opción correcta para lectores que sintonizan su configuración.
Dónde se queda corto: La configuración de primera ejecución lleva más tiempo que cualquier otro runtime en la lista.
Precio: Gratis, AGPL.
Plataformas: Windows, macOS, Linux.
Descargar: github.com/oobabooga/text-generation-webui
Conclusión: La opción si tu flujo de trabajo depende de cambiar cargadores y cuantificaciones sin editar archivos de configuración.
Cómo elegir el correcto
Si tu prioridad es el tiempo de token de primera vez más rápido en cualquier hardware, cómpralo en Ollama. Su ergonomía sigue siendo la mejor que todo lo demás, y su multiplicador del ecosistema es real.
Si divides el tiempo entre un Mac Apple Silicon y un escritorio Windows Nvidia, LM Studio es la opción. Si tu hardware de destino incluye AMD Ryzen AI 300, Lemonade es la opción y su nuevo soporte de Nvidia significa que no tienes que cambiar runtimes cuando te mueves a una máquina diferente.
Jan es el reemplazo de ChatGPT. GPT4All es la opción para hardware modesto. KoboldCpp es la opción para una configuración portátil de archivo único USB. Text Generation WebUI es la opción si quieres cambiar cargadores por modelo. llama.cpp es la opción si quieres un script de shell y nada más.
Omite runtimes propietarios que solo se ejecutan en hardware de un solo proveedor a menos que ese proveedor sea tu pila completa.
FAQ
¿Cuál es el runtime de IA local más rápido en Apple Silicon?
LM Studio con MLX se ejecuta aproximadamente un 30 a 50 por ciento más rápido que llama.cpp Metal en el mismo modelo. Ollama está cerrando la brecha desde que su backend MLX aterrizó.
¿Puedo mover mi almacén de modelos Ollama a otra máquina?
Sí. Apunta OLLAMA_MODELS a una carpeta sincronizada (iCloud, Syncthing, Dropbox) y los mismos modelos aparecen en ambas máquinas. Bloquea la versión binaria de Ollama si cruzas límites del SO.
¿AMD Lemonade realmente funciona en Nvidia ahora?
Sí, desde el lanzamiento de 2026. No es una implementación completa de CUDA, pero el endpoint compatible con OpenAI funciona entre proveedores, y la inferencia de Nvidia es comparable al backend de Nvidia de Ollama para la mayoría de quants GGUF.
¿Qué runtime de IA local usa la menor VRAM?
llama.cpp con cuantificación Q4_K_M. KoboldCpp lo iguala porque envuelve el mismo motor. LM Studio y Ollama usan las mismas matemáticas pero envían un contexto predeterminado más alto que consume VRAM.
¿Hay algún runtime de IA local disponible para iOS o Android?
No, ninguno de los ocho se ejecuta en móvil. En Android, mira MLC LLM o Layla. En iOS, mira Private LLM o Enclave.
