Ollama es un programa gratuito y de código abierto (licencia MIT) que permite descargar y ejecutar modelos de inteligencia artificial en tu propio computador. Con un comando bajas un modelo como Llama, Qwen, Gemma o DeepSeek y conversas con él sin conexión, sin cuenta y sin pagar por uso. Funciona en Windows, macOS y Linux, y además expone una API local para conectarlo a otras aplicaciones.
Por qué usar IA local
- Privacidad: lo que escribes no sale de tu equipo. Sirve para documentos internos, contratos o datos de clientes.
- Sin costo por uso: no hay suscripción ni cobro por token.
- Funciona sin internet una vez descargado el modelo.
- Control: el modelo no cambia de comportamiento de un día para otro.
La desventaja es que los modelos que caben en un computador normal son más pequeños que los de ChatGPT o Claude, y rinden menos en tareas complejas. Para resumir, redactar, traducir, clasificar o responder sobre tus propios textos, suelen bastar.
Cómo instalar Ollama
Windows y macOS: descarga el instalador desde ollama.com/download y ejecútalo. Queda corriendo en segundo plano e incluye una aplicación de chat.
Linux: un solo comando:
curl -fsSL https://ollama.com/install.sh | shPara comprobar que quedó instalado:
ollama --versionPrimeros pasos
Descargar un modelo y abrir una conversación es un solo comando. La primera vez descarga el modelo; las siguientes, lo abre de inmediato:
ollama run llama3.2Escribe tu pregunta y presiona Enter. Para salir, escribe /bye.
Los comandos que más vas a usar:
| Comando | Qué hace |
|---|---|
ollama run <modelo> |
Descarga (si hace falta) y abre una conversación |
ollama pull <modelo> |
Solo descarga el modelo |
ollama list |
Muestra los modelos instalados y su tamaño |
ollama ps |
Muestra los modelos cargados en memoria ahora |
ollama rm <modelo> |
Borra un modelo del disco |
El catálogo completo está en ollama.com/library. Cada modelo tiene variantes por tamaño, indicadas con una etiqueta: qwen3:4b, qwen3:14b, gemma3:12b.
Qué modelo elegir según tu equipo
El factor que manda es la memoria: la RAM del sistema o, mejor, la memoria de la tarjeta gráfica (VRAM). Ollama usa por defecto versiones cuantizadas a 4 bits, que ocupan aproximadamente 0,6 GB por cada mil millones de parámetros, más algo de margen para la conversación.
| Memoria disponible | Tamaño de modelo razonable | Ejemplos de etiqueta |
|---|---|---|
| 8 GB | 1B a 4B | llama3.2:3b, qwen3:4b, gemma3:4b |
| 16 GB | 7B a 14B | qwen3:8b, qwen3:14b, gemma3:12b |
| 32 GB | hasta unos 30B | qwen3:30b, gemma3:27b, gpt-oss:20b |
| 64 GB o más | 70B y superiores | modelos grandes de Llama, Qwen o DeepSeek |
Con tarjeta gráfica NVIDIA o AMD compatible, o con un Mac con chip Apple Silicon, las respuestas son mucho más rápidas. Sin GPU funciona igual, solo con la CPU, pero conviene quedarse en modelos pequeños.
Los nombres de los modelos cambian seguido. Para saber qué permite hacer cada uno con tu trabajo, revisa su licencia: la explicamos en IA de código abierto.
Usar Ollama desde otras aplicaciones
Ollama levanta un servidor local en el puerto 11434. Cualquier programa puede pedirle respuestas:
curl http://localhost:11434/api/generate -d '{
"model": "llama3.2",
"prompt": "Explica qué es el copyleft en dos frases",
"stream": false
}'También ofrece un endpoint compatible con la API de OpenAI en http://localhost:11434/v1. Muchas herramientas que funcionan con ChatGPT pueden apuntar a Ollama cambiando solo la dirección y el nombre del modelo. Así se conecta con:
- Interfaces de chat web como Open WebUI, para tener una experiencia parecida a ChatGPT en el navegador. La guía paso a paso está en tu propio ChatGPT con Ollama y Open WebUI.
- Editores de código con extensiones como Continue, para autocompletar con un modelo local.
- Automatizaciones en n8n u otras plataformas, para procesar correos o documentos sin enviarlos a un servicio externo.
Ollama frente a LM Studio
LM Studio es la otra opción popular para correr modelos en local. La diferencia principal es de enfoque:
| Ollama | LM Studio | |
|---|---|---|
| Licencia | Código abierto (MIT) | Gratuito, pero cerrado |
| Interfaz | Línea de comandos y una app de chat simple | Aplicación gráfica completa |
| Buscar modelos | Catálogo propio de Ollama | Busca directamente en Hugging Face |
| API local | Sí, nativa y compatible con OpenAI | Sí, compatible con OpenAI |
| En servidores | Muy usado, también en Docker | Pensado para escritorio |
Si quieres explorar modelos con clics y ajustar parámetros visualmente, LM Studio es más cómodo. Si quieres integrar la IA en otras herramientas, montarla en un servidor o preferir software libre, Ollama es la opción más directa. Las dos usan por debajo llama.cpp, el motor de inferencia libre que hizo posible correr estos modelos en hardware común.
Preguntas frecuentes
¿Ollama es gratis? Sí. Ollama es gratuito y de código abierto, con licencia MIT, y no cobra suscripción ni por uso.
¿Ollama funciona sin internet? Sí. Una vez descargado el modelo, Ollama funciona sin conexión y lo que escribes no sale de tu equipo.
¿Se puede usar Ollama sin tarjeta gráfica? Sí. Ollama funciona solo con la CPU, aunque responde más lento, así que conviene usar modelos pequeños.
¿Cuánta RAM necesito para usar Ollama? Con 8 GB puedes usar modelos de 1B a 4B parámetros y con 16 GB, de 7B a 14B. Los modelos cuantizados a 4 bits ocupan unos 0,6 GB por cada mil millones de parámetros, más algo de margen.
¿En qué puerto funciona la API de Ollama? En el puerto 11434. Ahí Ollama expone su API propia y un endpoint compatible con la API de OpenAI en la ruta /v1.
Fuentes
- Ollama, repositorio oficial y documentación.
- Documentación de la API de Ollama.
- Biblioteca de modelos de Ollama.
- llama.cpp, el motor de inferencia en que se basa.
- LM Studio.