Un LLM (del inglés large language model, modelo de lenguaje grande) es un programa de inteligencia artificial entrenado con enormes cantidades de texto para predecir cuál es la palabra siguiente en una frase. Repitiendo esa predicción una y otra vez, puede responder preguntas, resumir, traducir o escribir código. ChatGPT, Claude, Gemini, Llama, DeepSeek y Mistral son LLM o productos construidos sobre ellos.
Qué significa cada parte de la sigla
- Large (grande): por el tamaño del modelo, medido en parámetros, y por la cantidad de texto con que se entrena. Los modelos actuales tienen desde unos pocos miles de millones hasta cientos de miles de millones de parámetros.
- Language (lenguaje): trabaja con texto. Muchos modelos recientes también aceptan imágenes o audio, pero el núcleo sigue siendo el lenguaje.
- Model (modelo): es una función matemática con millones de números ajustados durante el entrenamiento. No es una base de datos ni un buscador.
Cómo funciona, sin fórmulas
1. El texto se corta en tokens
El modelo no lee letras ni palabras completas, sino tokens: fragmentos de texto que pueden ser una palabra, parte de una palabra o un signo. “Software libre” puede quedar en tres o cuatro tokens. En español, un token equivale en promedio a algo menos de una palabra. Los precios de las API y los límites de los modelos se miden en tokens.
2. Predice el token siguiente
Dado un texto, el modelo calcula la probabilidad de cada token posible como continuación, elige uno, lo agrega al texto y repite. Una respuesta de 300 palabras son unos cuantos cientos de predicciones seguidas.
3. La arquitectura transformer
Casi todos los LLM usan la arquitectura transformer, presentada por investigadores de Google en 2017 en el artículo “Attention Is All You Need”. Su pieza clave, el mecanismo de atención, permite que el modelo relacione cada token con todos los anteriores, y así entienda que en “el programa falló porque él no tenía memoria” el pronombre se refiere al programa.
Cómo se entrena un LLM
| Etapa | Qué se hace | Resultado |
|---|---|---|
| Preentrenamiento | El modelo lee billones de tokens de libros, sitios web, código y artículos, y aprende a predecir el siguiente | Un modelo “base” que completa textos, pero no conversa bien |
| Ajuste por instrucciones | Se entrena con ejemplos de preguntas y buenas respuestas | Un modelo que sigue indicaciones |
| Ajuste con preferencias | Personas (o otros modelos) comparan respuestas y el modelo aprende cuáles se prefieren (RLHF y técnicas similares) | Un asistente más útil y más prudente |
El preentrenamiento es la parte cara: requiere miles de GPU durante semanas o meses. Por eso pocas organizaciones entrenan modelos desde cero, y la mayoría ajusta modelos existentes.
Parámetros, contexto y otros términos
| Término | Qué es |
|---|---|
| Parámetros | Los números internos que el entrenamiento ajusta. Más parámetros suele significar más capacidad, y también más memoria para ejecutarlo. Un modelo “8B” tiene 8 mil millones. |
| Ventana de contexto | Cuántos tokens puede considerar a la vez: tu pregunta, la conversación previa y los documentos que le pases. |
| Pesos | El archivo con los parámetros. Cuando un modelo se “publica abierto”, lo que se publica son sus pesos. |
| Inferencia | Usar el modelo ya entrenado para generar respuestas. |
| Cuantización | Guardar los parámetros con menos precisión para que el modelo ocupe menos memoria, a cambio de perder algo de calidad. |
| Ajuste fino (fine-tuning) | Seguir entrenando un modelo con datos propios para especializarlo. |
| RAG | Darle al modelo documentos relevantes en el momento de la pregunta, para que responda con información que no estaba en su entrenamiento. |
Qué no es un LLM
- No es un buscador. No consulta internet salvo que el producto le agregue esa herramienta. Responde con lo que aprendió, que tiene una fecha de corte.
- No “sabe” en el sentido humano. Produce el texto más probable según su entrenamiento. Por eso puede alucinar: inventar datos, citas o funciones de programación con total seguridad. Todo lo importante hay que verificarlo.
- No es lo mismo que el chat. ChatGPT es una aplicación; GPT es la familia de modelos que usa. Lo mismo con Claude, Gemini o Le Chat de Mistral.
LLM cerrados y abiertos
Hay dos grandes formas de acceder a un modelo:
- Cerrados: solo se usan a través del servicio o la API de la empresa. Los pesos no se publican. Ejemplos: los modelos GPT de ChatGPT, Claude, Gemini.
- De pesos abiertos: cualquiera puede descargar el modelo y ejecutarlo en su propio equipo o servidor. Ejemplos: Llama, Qwen, DeepSeek, Mistral, Gemma, gpt-oss.
Que los pesos estén disponibles no significa que el modelo sea software libre: depende de la licencia y de qué más se publique. Lo explicamos en IA de código abierto. Si quieres probar uno en tu computador, la forma más simple es Ollama.
Preguntas frecuentes
¿Qué significa LLM en español? Significa modelo de lenguaje grande, del inglés large language model. Es el tipo de inteligencia artificial que está detrás de asistentes como ChatGPT, Claude o Gemini.
¿ChatGPT es un LLM? No exactamente: ChatGPT es una aplicación que funciona sobre los modelos GPT, que sí son LLM. Lo mismo pasa con Claude o Gemini, donde la aplicación y la familia de modelos comparten nombre.
¿Por qué un LLM inventa información? Porque genera el texto más probable según su entrenamiento, no consulta una base de datos de hechos. A ese error se le llama alucinación, y por eso todo dato importante hay que verificarlo.
¿Se puede usar un LLM en mi propio computador? Sí, con un modelo de pesos abiertos como Llama, Qwen, Mistral o Gemma. La forma más simple de probarlo es Ollama, y los modelos con más parámetros necesitan más memoria.
¿Qué diferencia hay entre un LLM y la inteligencia artificial? La inteligencia artificial es el campo completo, y un LLM es un tipo específico de modelo de IA especializado en lenguaje. Hay otros tipos de IA, como los modelos que generan imágenes o los que reconocen voz.
Fuentes
- Vaswani y otros, Attention Is All You Need (2017), el artículo que introdujo la arquitectura transformer.
- Ouyang y otros, Training language models to follow instructions with human feedback (2022), sobre el ajuste con preferencias humanas (RLHF).
- Curso de LLM de Hugging Face, gratuito y con capítulos en español.