XDA señaló el cambio en marzo: Ollama 0.19 cambió su backend de Apple Silicon a MLX y el prefill aumentó alrededor de 1,6x, con decodificación cercana a 2x en el mismo hardware de serie M. La razón es la parte de la arquitectura Mac que se ha convertido silenciosamente en la característica clave para la IA local. La memoria unificada permite que la GPU lea la misma RAM que usa la CPU, por lo que un MacBook de 64 GB puede cargar un modelo de clase 70B que no cabría en una tarjeta RTX de 24 GB, y MLX, el propio marco ML de Apple, ha aprendido a forzar ese hardware más que los runtimes multiplataforma jamás pudieron.
Probamos 7 de las mejores aplicaciones para ejecutar LLMs locales en Mac, con sesgo hacia herramientas que realmente explotan MLX o Metal en lugar de las que simplemente se compilan. El análisis fue lo aburrido: qué tan rápido se carga un modelo en una M2 Pro, qué tan limpio usa la aplicación la aceleración GPU, si la interfaz de chat es agradable después de una hora, y si el proyecto sigue con nuevas arquitecturas de modelos. La mayoría de las opciones sólidas son gratuitas o tienen un nivel personal generoso.
Qué buscar en una aplicación Mac de LLM local
Un puñado de criterios separan las herramientas que sobreviven en un MacBook de las que se desinstalan en la segunda semana:
- Soporte MLX. El marco de Apple es ahora la ruta más rápida en chips de serie M. Las aplicaciones que envíen un backend MLX, no solo un envoltorio llama.cpp, seguirán ampliando la ventaja en silicio M5 y posterior.
- Aceleración GPU Metal. Para aplicaciones aún en llama.cpp, la calidad del backend Metal decide si los tokens por segundo son utilizables o una presentación de diapositivas.
- Compatibilidad GGUF. GGUF es el formato que utiliza el catálogo de Hugging Face. Una aplicación que no pueda cargar un GGUF reciente es un callejón sin salida, incluso en Apple Silicon.
- Conciencia de memoria unificada. Las buenas aplicaciones muestran cuánta RAM compartida consumirá un modelo e impiden cargar algo que forzará cambios. Las malas dejan que macOS funcione con dificultad y luego se bloquee.
- API compatible con OpenAI. Un endpoint local en
localhostes lo que conecta el modelo a extensiones de editor, notebooks y atajos. Las aplicaciones más fuertes exponen uno sin configuración adicional. - Postura de privacidad. Algunas aplicaciones se ejecutan completamente sin conexión. Otras llaman a casa para análisis de forma predeterminada y necesitan una bandera para detener, lo que importa si la razón por la que se volvió local fue la privacidad desde el principio.
Comparación rápida
| Aplicación | Mejor para | Soporte Apple Silicon | Plan gratuito | Característica destacada |
|---|---|---|---|---|
| Ollama | Instalaciones de una línea con backend MLX | Motor MLX en serie M | Sí (código abierto) | API compatible con OpenAI en localhost:11434 |
| LM Studio | Chat pulido con GGUF y MLX lado a lado | Runtime MLX nativo | Sí (gratis para uso personal) | Cargue GGUF y un modelo MLX en una ventana |
| Jan | Chat completamente de código abierto que respeta modo sin conexión | Metal a través de llama.cpp | Sí (código abierto) | Sin telemetría y panel de configuración transparente |
| GPT4All | Mac con poca RAM y Apple Silicon antiguo | Metal a través de llama.cpp | Sí (código abierto) | Quants de primera CPU ajustados para máquinas de 8 GB |
| Msty | Comparación de dos modelos locales lado a lado | Metal a través de llama.cpp | Sí (nivel gratuito) | Dos modelos, una ventana, el mismo prompt |
| MLX Chat (mlx-lm) | Máximo rendimiento y ajuste fino | MLX de primera mano | Sí (código abierto) | Runtime de referencia de Apple para modelos MLX |
| Llama.cpp | Control directo del backend Metal | Kernels Metal ajustados a mano | Sí (código abierto) | El runtime que cada otra aplicación envuelve |
Las 7 mejores aplicaciones para ejecutar LLMs locales en Mac
1. Ollama — mejor instalación de una línea con backend MLX
Ollama movió su backend de Apple Silicon a MLX en la versión 0.19 y convirtió un runtime estable en uno notablemente rápido. El mismo comando ollama run extrae un modelo cuantificado e inicia el chat, pero en una Mac de serie M con al menos 32 GB de memoria unificada el motor nuevo maneja el prefill alrededor de 1,6x más rápido y la decodificación casi 2x más rápida que la ruta llama.cpp que reemplazó. Las actualizaciones recientes agregaron soporte NVFP4 de 4 bits para mayor calidad al mismo costo de memoria.
Dónde falla: El motor MLX está limitado a Apple Silicon con suficiente memoria unificada, por lo que los MacBooks antiguos de 16 GB recurren al runtime estándar. La interfaz de primera mano sigue siendo una CLI y un demonio, por lo que la mayoría de las personas la emparejan con un frontend de chat separado.
Precios:
- Gratis: código abierto, sin tarifa de licencia
- Pagado: ninguno
Plataformas: macOS, Windows, Linux
Descargar: ollama.com
Conclusión: Elige Ollama para LLMs locales en Mac si deseas el backend más rápido con el costo de configuración más bajo y estás feliz de traer tu propia interfaz.
2. LM Studio — mejor interfaz de chat para mezclar GGUF y MLX
LM Studio es una de las pocas aplicaciones que ejecuta modelos llama.cpp GGUF y MLX en la misma ventana, lo que la convierte en la forma más fácil de sentir la diferencia de velocidad de Apple Silicon en el mismo prompt. Apple citó a LM Studio en sus materiales de lanzamiento de M5 por esta razón. El navegador de modelos se conecta a Hugging Face, marca variantes optimizadas para MLX y muestra si un archivo cabe en tu memoria unificada antes de que te comprometas a descargarlo.
Dónde falla: La licencia permite uso personal gratuito pero se requiere un plan de pago en contextos comerciales, lo que es bueno saberlo antes de instalar en una MacBook de empresa. La aplicación es de código cerrado.
Precios:
- Gratis: uso personal
- Pagado: plan de trabajo para uso empresarial
Plataformas: macOS, Windows, Linux
Descargar: lmstudio.ai
Conclusión: Elige LM Studio para LLMs locales en Mac si deseas una sola ventana que maneje descubrimiento de modelos, selección de MLX o GGUF, chat y una API local.
3. Jan — mejor cliente de chat completamente de código abierto para macOS
Jan es lo que sucede cuando un equipo reconstruye la experiencia de LM Studio como código abierto desde cero. La aplicación de escritorio se siente nativa en macOS, usa el backend Metal a través de llama.cpp para aceleración GPU, y la política declarada del proyecto es ejecutar completamente sin conexión sin telemetría. El panel de configuración deja claro qué interruptores afectan las llamadas de red, lo que es inusual en esta categoría.
Dónde falla: El rendimiento se queda atrás de Ollama y LM Studio en Apple Silicon porque Jan aún no ha enviado un runtime MLX de primera categoría, por lo que deja un trozo de rendimiento de serie M en la mesa. Las historias de móvil y API remoto son más nuevas que el chat de escritorio.
Precios:
- Gratis: código abierto, sin tarifa de licencia
- Pagado: ninguno
Plataformas: macOS, Windows, Linux
Descargar: jan.ai
Conclusión: Elige Jan para LLMs locales en Mac si el código abierto es más importante que exprimir el último 20 por ciento de tu GPU.
4. GPT4All — mejor para Apple Silicon antiguo y Macs de 8 GB
GPT4All sigue haciendo el trabajo aburrido mejor que la mayoría en hardware que el resto del campo ha dejado de atender. La lista de modelos predeterminada está ajustada para inferencia de CPU y GPU modesta, los pequeños quants se ejecutan en M1 MacBook Air con 8 GB de memoria unificada, y la interfaz de chat incluye chat de documento local que apunta a una carpeta en el disco. Para propietarios de portátiles Apple Silicon de modelo base que se alejaron de modelos 7B ejecutándose lentamente, la selección de modelos pequeños curada es el punto de partida correcto.
Dónde falla: La aceleración de Apple Silicon es compatible a través de Metal pero no es donde se centra el proyecto, por lo que modelos más grandes se quedan atrás de las aplicaciones conscientes de MLX. La interfaz de chat es funcional en lugar de hermosa.
Precios:
- Gratis: código abierto, sin tarifa de licencia
- Pagado: ninguno
Plataformas: macOS, Windows, Linux
Descargar: gpt4all.io
Conclusión: Elige GPT4All para LLMs locales en Mac si tu memoria unificada es limitada y deseas un cliente de chat que se envíe con modelos ajustados para ello.
5. Msty — mejor para comparar dos modelos locales en el mismo prompt
Msty llena un vacío específico en macOS: puede comunicarse con dos modelos locales a la vez y mostrar sus respuestas lado a lado. Combinado con hooks para APIs remotas, esto la convierte en la forma más fácil de comparar una nueva versión de Qwen MLX contra Gemma GGUF en el mismo prompt sin manipular dos ventanas. Las pilas de conocimiento te permiten adjuntar carpetas o URL a un chat para recuperación, y la compilación de macOS se siente nativa.
Dónde falla: El nivel gratuito cubre la mayoría del uso personal, pero algunas características poderosas se sientan detrás de un plan de pago. La búsqueda de modelos es más estrecha que la de LM Studio y no hay runtime MLX de primera categoría, por lo que el rendimiento bruto se queda atrás de las aplicaciones conscientes de MLX.
Precios:
- Gratis: plan personal rico en características
- Pagado: plan Aurum para características avanzadas
Plataformas: macOS, Windows, Linux
Descargar: msty.app
Conclusión: Elige Msty para LLMs locales en Mac si activamente comparas modelos y deseas un cliente de chat construido para ese flujo de trabajo.
6. MLX Chat (mlx-lm) — mejor para máximo rendimiento y ajuste fino
MLX Chat es la capa de chat sobre mlx-lm, el runtime de referencia de Apple para ejecutar y ajustar finamente LLMs con MLX. Es la forma más directa de usar el marco que potencia los backends MLX de Ollama y LM Studio, y en hardware de clase M5 los propios números de Apple muestran MLX separándose de llama.cpp con un margen significativo, con tiempo a primer token bajo tres segundos en un modelo MoE de 30B. pip install mlx-lm más un id de modelo de Hugging Face te da un chat de línea de comando que funciona.
Dónde falla: Esta es la herramienta más cercana en la lista a un proyecto de investigación. No hay instalador pulido o navegador de modelos, administras entornos Python, y las interfaces de chat que lo envuelven son mínimas. También es solo macOS, por diseño.
Precios:
- Gratis: código abierto, sin tarifa de licencia
- Pagado: ninguno
Plataformas: macOS (solo Apple Silicon)
Descargar: github.com/ml-explore/mlx-lm
Conclusión: Elige MLX Chat para LLMs locales en Mac si deseas el propio runtime de Apple en tus manos y estás cómodo en una terminal.
7. Llama.cpp — mejor control directo sobre el backend Metal
Llama.cpp es el runtime que casi toda aplicación en esta lista envuelve o solía usar. Construirlo desde la fuente en una Mac lleva un comando, el backend Metal está ajustado a mano para Apple Silicon, y el binario llama-server expone la misma API compatible con OpenAI que las aplicaciones pulidas sin un instalador en el medio. Para cualquiera que quiera ver exactamente qué kernels se ejecutan, ajustar parámetros del muestreador por solicitud, o probar una arquitectura de modelo completamente nueva el día en que llega a Hugging Face, este es el camino.
Dónde falla: Sin interfaz de chat propia más allá de una interfaz web básica, sin navegador de modelos curado, y la superficie de bandera es lo suficientemente amplia como para que la primera ejecución generalmente implique leer el README. Las aplicaciones conscientes de MLX han comenzado a adelantarlo en rendimiento bruto en los chips de serie M más nuevos.
Precios:
- Gratis: código abierto, sin tarifa de licencia
- Pagado: ninguno
Plataformas: macOS, Windows, Linux
Descargar: github.com/ggml-org/llama.cpp
Conclusión: Elige Llama.cpp para LLMs locales en Mac si deseas el runtime que cada otra aplicación envuelve, sin nada entre tú y los kernels Metal.
Cómo elegir
Si deseas la ruta más simple para una configuración que funcione en Apple Silicon, instala Ollama y emparéjalo con un frontend de chat que te guste.
Si deseas una aplicación que maneje MLX, GGUF, descubrimiento de modelos y chat en una ventana pulida, instala LM Studio.
Si el código abierto es más importante que el último 20 por ciento de rendimiento, instala Jan.
Si tu MacBook tiene 8 GB de memoria unificada o un M1 antiguo, instala GPT4All y adhiérete a sus modelos pequeños curados.
Si activamente comparas modelos en el mismo prompt, instala Msty.
Si deseas el propio runtime de Apple en tus manos y no te importa una terminal, instala MLX Chat encima de mlx-lm.
Si deseas control directo sobre el backend Metal sin nada en el camino, construye Llama.cpp desde la fuente.
FAQ
¿Realmente MLX hace que los LLMs locales sean más rápidos en Mac que llama.cpp?
En Apple Silicon actual, sí. Los propios números de Ollama después de cambiar a MLX mostraron prefill alrededor de 1,6x más rápido y decodificación casi 2x más rápida en el mismo hardware de serie M, y los puntos de referencia de M5 publicados por Apple muestran MLX separándose más en los chips más nuevos. En máquinas M1 y M2 antiguas la brecha es más pequeña pero aún real.
¿Cuánta memoria unificada necesito para ejecutar un LLM local en una Mac?
Para una experiencia cómoda con un modelo 7B en cuantificación de 4 bits, 16 GB de memoria unificada son suficientes. Para modelos de clase 14B, 32 GB es el punto dulce. Para modelos 70B densos o modelos de mezcla de expertos 30B-A3B con espacio para contexto, 64 GB o más es lo que deseas.
¿Es Ollama la mejor aplicación para ejecutar LLMs locales en Mac?
Es el mejor backend para la mayoría de usuarios de Mac ahora que el motor MLX se ha enviado. Si también deseas una interfaz de chat pulida en la misma ventana, LM Studio está más cerca de ser una respuesta de una aplicación. Ollama más una interfaz separada sigue siendo el stack más común.
¿Puedo usar un LLM local en mi Mac con mi editor de código?
Sí. Cualquier aplicación que exponga un endpoint compatible con OpenAI, incluyendo Ollama, LM Studio, Jan y Msty, puede establecerse como URL base en extensiones de editor que apunten a OpenAI. Continue, modo bring-your-own-key de Cursor, y la mayoría de extensiones de VS Code aceptan esto y nunca ven tu código abandonar la máquina.
