XDA pasó una semana en un pequeño proyecto de código abierto llamado LLMFit que resuelve uno de los momentos más frustrantes en el flujo de trabajo de LLM local: tienes una GPU, tienes una página de modelo de Hugging Face abierta, y no tienes idea si el modelo realmente funcionará en tu máquina antes de pasar una hora descargándolo. El artículo señalaba una verdad más amplia: la escena de LLM local necesita herramientas de ajuste de hardware tan desesperadamente como necesita ejecutores de modelos, y ya hay varias aplicaciones que cubren el flujo de trabajo. Probamos 7 aplicaciones de escritorio que emparejan modelos con tu hardware antes de que comience la descarga.
Qué buscar en un comparador de modelo-hardware
Las herramientas buenas responden claramente cuatro preguntas:
- ¿Encajará este quant exacto de este modelo exacto en mi VRAM de GPU y RAM del sistema?
- ¿Cuáles son los tokens por segundo esperados en mi GPU a esta longitud de contexto?
- Si no encaja, ¿qué quant o tamaño de modelo encajaría?
- ¿Dónde descargo el archivo correcto?
Algunas características adicionales diferencian las herramientas fuertes de las débiles.
- Lectura de VRAM en vivo de tu GPU actual (no una búsqueda de especificaciones estáticas).
- Conocimiento del costo de VRAM de longitud de contexto, no solo pesos de modelo base.
- Matemáticas de memoria unificada de Apple Silicon, no solo matemáticas de GPU discreta.
- Verificación previa para inferencia solo en CPU en máquinas sin GPU.
Comparación rápida
| Aplicación | Mejor para | Plataformas | Precio | Característica destacada |
|---|---|---|---|---|
| LLMFit | Verificación de un clic “¿funcionará esto?” antes de descargar | Windows, macOS, Linux | Gratis, código abierto | Lee VRAM en vivo e identifica URL de Hugging Face |
| Hugging Face Hub | Estimaciones de hardware integradas en la página del modelo | Web (cualquier SO) | Gratis | Tabla de quant autorizada y tamaños de archivo |
| LM Studio | Insignia de compatibilidad integrada mientras buscas modelos | Windows, macOS, Linux | Gratis para uso personal | Indicador “descarga completa en GPU posible” |
| Ollama | Biblioteca de modelos con quants razonables por defecto | Windows, macOS, Linux | Gratis, código abierto | Selecciona automáticamente un quant que encaje en tu máquina |
| Can You Run It LLM | Calculadora web de hardware versus modelo | Web (cualquier SO) | Gratis | Sin instalación, fácil de compartir enlace |
| Llama.cpp benchmarker | Comparativa real en tu máquina, no una estimación | Windows, macOS, Linux | Gratis, código abierto | Verdad de tu hardware real |
| Open WebUI | Chat autohospedado con navegador de modelos | Docker (cualquier SO) | Gratis, código abierto | Selector de modelos multiusuario con filtrado por quant |
Las 7 mejores aplicaciones para emparejar LLM locales con tu hardware en escritorio
1. LLMFit — mejor verificación de un clic “¿funcionará esto?”
LLMFit es el nuevo participante al que señaló el artículo de XDA. La aplicación lee tu VRAM de GPU disponible en vivo, analiza URL de Hugging Face, y te dice qué quants de qué modelos encajarán, junto con una estimación aproximada de tokens por segundo. Arrastra una URL de Hugging Face a la ventana y obtendrás una marca verde o una cruz roja en segundos, más una recomendación de un quant que encajaría en su lugar.
La base de código es de código abierto y el proyecto se mueve rápidamente, con soporte de nuevo formato GGUF llegando en cuestión de días después de lanzamientos upstream.
Donde falla: El soporte de Apple Silicon es funcional pero aún no maneja las matemáticas de memoria unificada tan limpiamente como las máquinas con GPU discreta. La comunidad es pequeña y los modelos de casos extremos pueden requerir un lanzamiento para soportarse.
Precio: Gratis, código abierto.
Plataformas: Windows, macOS, Linux.
Descargar: github.com/llmfit
Conclusión: Elige esto cuando quieras una rápida verificación “sí o no” antes de desperdiciar una descarga.
2. Hugging Face Hub — mejores estimaciones de hardware integradas en la página del modelo
Hugging Face Hub no es una aplicación que instales pero es el punto de partida más preciso porque las propias páginas de modelos contienen tamaños de archivo autorizados, tablas de quant, y (para muchos modelos) notas de hardware aportadas por la comunidad. La actualización de la interfaz de Hub de 2025 añadió un widget “Ejecutar este modelo” que expone VRAM estimado para los quants comunes.
Para un modelo que nunca has oído, la tarjeta de modelo y la lista de archivos son la primera parada correcta antes de que recurras a una herramienta separada.
Donde falla: Lee una página de modelo; no lee tu hardware. Aún necesitas saber tu VRAM y tu RAM del sistema.
Precio: Gratis.
Plataformas: Web (cualquier SO), con hubs de escritorio de clientes de terceros.
Descargar: huggingface.co
Conclusión: Elige esto cuando necesites tamaños de archivo autorizados y matemáticas de quant de la fuente.
3. LM Studio — mejor insignia de compatibilidad integrada mientras buscas modelos
LM Studio es el cliente de chat pulido que incluye un navegador de modelos, y el navegador muestra una insignia “Descarga completa en GPU posible” en cada quant basado en tu VRAM disponible. Esa insignia única ahorra mucho tiempo: desplazarse por GGUF en una página de modelo se convierte en “desplazar hasta que vea la insignia.”
El lanzamiento de LM Studio de 2025 añadió una estimación de “Velocidad esperada” junto a cada quant compatible, lo que elimina otro paso de adivinación.
Donde falla: El nivel gratuito es “gratis para uso personal” en lugar de código abierto, lo que importa a algunos usuarios. La insignia de compatibilidad para máquinas con VRAM muy baja puede ser demasiado optimista en uso intensivo de contexto.
Precio: Gratis para uso personal.
Plataformas: Windows, macOS, Linux.
Descargar: lmstudio.ai
Conclusión: Elige esto si también quieres un cliente de chat pulido; la insignia de compatibilidad es una bonificación.
4. Ollama — mejor biblioteca de modelos con auto-quant
Ollama resuelve el problema de ajuste de hardware de forma diferente. En lugar de decirte qué quants encajan, la biblioteca de modelos viene con un quant por defecto que el proyecto considera un equilibrio razonable para máquinas típicas. ollama pull llama3.3 te da un quant que funciona en una amplia gama de hardware sin que tengas que elegir.
Para usuarios que preferirían no pensar en quants en absoluto, Ollama es lo más cercano a que la categoría pueda ofrecer “simplemente dame un modelo que funcione.”
Donde falla: El quant por defecto no siempre es el mejor ajuste para tu GPU específica. Los usuarios avanzados con una tarjeta de 24GB o 48GB querrán elegir un quant más pesado manualmente.
Precio: Gratis, código abierto.
Plataformas: Windows, macOS, Linux.
Descargar: ollama.com
Conclusión: Elige esto cuando quieras un modelo que funcione sin pensar en quants.
5. Can You Run It LLM — mejor calculadora web de hardware versus modelo
Can You Run It LLM es una herramienta web que toma tu modelo de GPU de un desplegable, el modelo que quieres, y la longitud de contexto, y devuelve un limpio sí-no más una estimación de tokens por segundo. Es la herramienta correcta cuando no quieres instalar nada y quieres compartir un enlace con un amigo que también está comprando hardware.
La herramienta también expone el quant más pequeño de un modelo que encajaría en tu máquina, lo que es útil cuando se planifican actualizaciones.
Donde falla: Es una calculadora, no una lectura de VRAM en vivo. Si algo más ya está usando tu memoria GPU (una pestaña de navegador, un juego), la calculadora no lo sabe.
Precio: Gratis.
Plataformas: Web (cualquier SO).
Descargar: canyourunitllm.com
Conclusión: Elige esto para una verificación sin instalación, fácil de compartir antes de descargar.
6. Llama.cpp benchmarker — mejor comparativa real en tu máquina
Llama.cpp viene con un pequeño binario de comparativa (llama-bench) que ejecuta una inferencia real contra un archivo de quant e informa tokens por segundo para procesamiento de solicitud y generación. Las estimaciones que dan las otras herramientas son suposiciones educadas; esto es la verdad de tu hardware.
Para usuarios que eligen entre dos quants cercanos en la misma máquina, ejecutar la comparativa en ambos lleva unos minutos y produce una comparación real.
Donde falla: Requiere compilar o descargar el binario de llama.cpp y proporcionarle el archivo de modelo que quieres probar, lo que es más trabajo que las otras herramientas.
Precio: Gratis, código abierto.
Plataformas: Windows, macOS, Linux.
Descargar: github.com/ggerganov/llama.cpp
Conclusión: Elige esto cuando una estimación no sea suficiente y quieras una medición real.
7. Open WebUI — mejor chat autohospedado con navegador de modelos filtrado por quant
Open WebUI se ejecuta como un front-end de chat autohospedado (típicamente en Docker) y se empareja con un backend de Ollama o llama.cpp. El selector de modelos muestra qué modelos se han descargado, cuáles se están ejecutando, y la etiqueta de quant para cada uno. Para una configuración multi-usuario en casa o equipo pequeño donde varias personas comparten un servidor de LLM, el navegador de modelos sirve como la referencia del equipo “qué encaja en nuestra GPU compartida.”
El lanzamiento de Open WebUI de 2025 añadió un filtro consciente del hardware que oculta modelos que el backend no puede servir en la longitud de contexto solicitada.
Donde falla: El filtro de hardware es tan bueno como los informes del backend. Algunas configuraciones necesitan indicaciones de VRAM manuales.
Precio: Gratis, código abierto.
Plataformas: Docker, cualquier SO.
Descargar: openwebui.com
Conclusión: Elige esto cuando un front-end de chat compartido y un navegador de modelos pertenezcan a una sola herramienta.
Cómo elegir el correcto
- Si quieres la verificación “¿funcionará esto?” más rápida en una URL de Hugging Face: LLMFit.
- Si quieres tamaños de archivo autorizados y tablas de quant de la fuente: Hugging Face Hub.
- Si también quieres un cliente de chat pulido: LM Studio.
- Si prefieres no pensar en quants en absoluto: Ollama.
- Si quieres una calculadora web sin instalación para compartir con un amigo: Can You Run It LLM.
- Si una estimación no es suficiente y quieres una comparativa real: Llama.cpp benchmarker.
- Si un servidor de LLM compartido necesita un navegador de modelos multiusuario: Open WebUI.
Preguntas frecuentes
¿Cómo sé cuánto VRAM necesita una LLM local?
El tamaño del archivo de peso base es un piso; añade aproximadamente 20% para KV-cache y sobrecarga de tiempo de ejecución en contextos cortos, más para contexto largo. LLMFit y LM Studio hacen estas matemáticas para ti. Un GGUF 7B Q4_K_M típicamente requiere alrededor de 4-5GB de VRAM en contextos cortos.
¿Puedo ejecutar una LLM local sin GPU?
Sí. Los modelos pequeños cuantificados (3B, 7B en Q4 o menor) se ejecutan en CPU en máquinas con 16GB de RAM. Los tokens por segundo serán una pequeña fracción de una GPU pero el flujo de trabajo funciona. Tanto Ollama como LM Studio manejan la inferencia solo en CPU de forma limpia.
¿Cuál es la mejor LLM local para una GPU de 8GB?
Un quant Q4 o Q5 de un modelo 7B encaja con espacio para contexto corto. Muchos modelos Llama y Qwen de 8B con cuantización agresiva también encajan. Usa LLMFit para elegir un quant específico en lugar de adivinar.
¿Todas estas herramientas son de código abierto?
Casi todas. LM Studio es “gratis para uso personal” en lugar de código abierto. LLMFit, Ollama, bibliotecas de cliente de Hugging Face, Llama.cpp, y Open WebUI son de código abierto. Can You Run It LLM es una herramienta web gratuita, no de código abierto.
¿Funcionan estas herramientas en Apple Silicon?
Sí. El modelo de memoria unificada de Apple Silicon es soportado por Ollama, LM Studio, Llama.cpp, y (con la salvedad anterior) LLMFit. Los tokens por segundo en chips M-series a menudo superan a GPUs discretas de VRAM similar gracias al ancho de banda rápido de memoria.
