Ir al contenido
Model Wayfinder
Guía

Cómo ejecutar un modelo de IA en tu propia computadora

Ejecutar un modelo localmente implica que tus datos nunca salen de tu computadora, funciona sin conexión y no hay costos mensuales. Solo necesitas una computadora lo suficientemente potente y unos 15 minutos.

01 · Revisa tu hardware

Lo más importante es la memoria de tu tarjeta gráfica (VRAM). En Windows: Administrador de tareas → Rendimiento → GPU → “Memoria de GPU dedicada”. En una Mac con chip de la serie M, se pueden usar aproximadamente tres cuartas partes de tu memoria principal.

Regla práctica para la versión comprimida habitual (Q4): 0.6 GB por mil millones de parámetros más 1.5 GB. Un modelo de 7B necesita unos 6 GB, por lo que cabe en una tarjeta de 8 GB. Nuestro finder lo verifica por ti cuando eliges “local”.

02 · La forma sencilla: LM Studio

LM Studio es una aplicación de escritorio gratuita para Windows, macOS y Linux que cuenta con una ventana de chat sencilla; no se necesita línea de comandos.

  1. Descarga e instala LM Studio desde lmstudio.ai.
  2. Abre el buscador y escribe el nombre del modelo; provienen de Hugging Face.
  3. Elige una versión marcada como Q4_K_M, que ofrece un buen equilibrio entre tamaño y calidad. LM Studio muestra si cabe en tu memoria.
  4. Haz clic en Download, luego carga el modelo y comienza a chatear.

03 · Para los curiosos: Ollama

[Tú] puedes ejecutar modelos desde la línea de comandos con Ollama, que también proporciona una API local que otros programas pueden utilizar.

  1. Instala Ollama desde ollama.com.
  2. Abre una terminal e inicia un modelo usando la biblioteca de Ollama, por ejemplo: ollama run <model-name>. Nuestras páginas de modelos muestran el comando exacto que ya hemos verificado.
  3. Los modelos de Hugging Face en formato GGUF se pueden iniciar directamente: ollama run hf.co/<user>/<repository>:Q4_K_M

04 · Cómo encontrar modelos en Hugging Face

Hugging Face es la biblioteca más grande de modelos abiertos. Consejos:

  • Filtra por GGUF: ese es el formato que usan LM Studio y Ollama.
  • Lee la model card: indica la licencia. Algunos modelos solo pueden usarse de forma privada o para investigación.
  • Prefiere archivos del creador original o de subidores reconocidos.

05 · Qué esperar

Los modelos locales suelen ser un poco menos potentes que los modelos en la nube más grandes, pero a menudo son suficientes para tareas de escritura, resumen y traducción. La primera respuesta tarda unos segundos mientras el modelo se carga. También funciona sin tarjeta gráfica, aunque mucho más lento.