“Este modelo es 70B”
Tiene aproximadamente 70.000 millones de parámetros.
Dónde se utiliza: Comparativas de LLM.
Consultar este término
“Es un MoE de 120B con 12B activos”
El modelo contiene 120B parámetros, pero para cada token usa aproximadamente una parte equivalente a 12B.
Dónde se utiliza: Modelos MoE.
Consultar este término
“No me cabe en VRAM”
La memoria de la GPU no es suficiente para cargar el modelo y lo que necesita para funcionar.
Dónde se utiliza: Modelos locales.
Consultar este término
“Te cabe si lo cuantizas”
Reduciendo la precisión de los pesos, el modelo ocupará menos memoria.
Dónde se utiliza: Modelos locales.
Consultar este término
“Bájate el Q4”
Descarga una versión cuantizada alrededor de 4 bits por peso.
Dónde se utiliza: GGUF.
Consultar este término
“Q8 pierde menos”
Una cuantización menos agresiva suele conservar más calidad, aunque ocupa más memoria.
Dónde se utiliza: GGUF.
Consultar este término
“Ese GGUF es para llama.cpp”
El archivo está en un formato muy habitual del ecosistema llama.cpp.
Dónde se utiliza: Modelos locales.
Consultar este término
“Haz offload a CPU”
Mueve parte del modelo a RAM/CPU porque no cabe entero en la GPU.
Dónde se utiliza: Inferencia local.
Consultar este término
“Sube más capas a GPU”
Haz que una parte mayor del modelo se ejecute en la GPU para ganar velocidad, si hay VRAM.
Dónde se utiliza: llama.cpp.
Consultar este término
“La KV cache se está comiendo la VRAM”
El contexto y/o la concurrencia están haciendo que la memoria temporal de atención ocupe mucho.
Dónde se utiliza: Contexto largo.
Consultar este término
“Cachea el prompt”
Intenta reutilizar cálculos de una parte del prompt que se repite.
Dónde se utiliza: Optimización.
Consultar este término
“Tenemos mucho TTFT”
El usuario tarda demasiado en ver empezar la respuesta.
Dónde se utiliza: Latencia.
Consultar este término
“Va a 80 tok/s”
Genera aproximadamente 80 tokens por segundo.
Dónde se utiliza: Benchmarks.
Consultar este término
“Esto es memory-bound”
La velocidad está limitada sobre todo por mover datos desde memoria.
Dónde se utiliza: Inferencia.
Consultar este término
“Ese modelo está alucinando”
Está inventando datos o respondiendo con seguridad sin base suficiente.
Dónde se utiliza: Calidad.
Consultar este término
Haz que busque información externa y la añada al contexto antes de responder.
Dónde se utiliza: Chat con datos.
Leer la guía de Qué es RAG y cómo permite responder con documentosConsultar este término
“Esto no necesita fine-tuning, necesita RAG”
El problema es aportar información actual o privada, no reentrenar el comportamiento del modelo.
Dónde se utiliza: Arquitectura.
Consultar este término
Convierte textos o datos a vectores para poder buscar por similitud.
Dónde se utiliza: RAG.
Leer la guía de Qué son los embeddings y cómo ayudan a buscar por significadoConsultar este término
“Métele una vector DB”
Guarda esos vectores en un sistema que permita búsquedas de similitud.
Dónde se utiliza: RAG.
Consultar este término
“El chunking está mal”
Los documentos se están partiendo de una forma que perjudica la recuperación.
Dónde se utiliza: RAG.
Consultar este término
“Pon un reranker”
Añade una segunda etapa que reordene los resultados de búsqueda para elegir los mejores.
Dónde se utiliza: RAG.
Consultar este término
“Está recuperando basura”
El RAG está enviando al modelo fragmentos poco relevantes.
Dónde se utiliza: RAG.
Consultar este término
“Necesita grounding”
La respuesta debe apoyarse en datos concretos verificables.
Dónde se utiliza: RAG y calidad.
Consultar este término
“Haz tool calling”
Permite que el modelo elija y ejecute funciones externas.
Dónde se utiliza: Agentes.
Consultar este término
“Conéctalo por MCP”
Expón o consume herramientas/datos mediante Model Context Protocol.
Dónde se utiliza: Agentes.
Consultar este término
“Levanta un MCP server”
Pon en marcha un servicio que exponga herramientas o recursos MCP.
Dónde se utiliza: Integraciones.
Consultar este término
“Dale memoria al agente”
Guarda información fuera del contexto inmediato para recuperarla más adelante.
Dónde se utiliza: Agentes.
Consultar este término
“Se ha quedado en un loop”
El agente repite pasos y no termina.
Dónde se utiliza: Agentes.
Consultar este término
“Pon max steps”
Limita cuántos ciclos puede ejecutar el agente.
Dónde se utiliza: Control de coste.
Consultar este término
“Haz un handoff a humano”
Pasa la tarea a una persona cuando el agente no debe continuar solo.
Dónde se utiliza: Soporte y operaciones.
Consultar este término
“Pon un human-in-the-loop”
Exige revisión o aprobación humana para ciertas decisiones o acciones.
Dónde se utiliza: Seguridad.
Consultar este término
“Dale mínimo privilegio”
No des al agente más permisos de los necesarios.
Dónde se utiliza: Seguridad.
Consultar este término
“Sandboxéalo”
Haz que ejecute código o acciones dentro de un entorno aislado.
Dónde se utiliza: Agentes de código.
Consultar este término
“Esto es agentic”
El sistema decide pasos o acciones dinámicamente en vez de seguir solo un flujo fijo.
Dónde se utiliza: Agentes.
Consultar este término
“Usa un modelo pequeño para routing”
Emplea un modelo barato para decidir qué modelo o camino debe atender la tarea.
Dónde se utiliza: Optimización.
Consultar este término
“Haz fallback al modelo B”
Si falla el modelo principal, prueba otro automáticamente.
Dónde se utiliza: Producción.
Consultar este término
“Pon un gateway delante”
Centraliza acceso a proveedores/modelos detrás de una capa común.
Dónde se utiliza: Arquitectura.
Consultar este término
El sistema consume demasiados tokens y el coste está subiendo.
Dónde se utiliza: APIs.
Leer la guía de Qué son los tokens y cómo estimar el coste de usar IAConsultar este término
“Este prompt mete demasiado contexto”
Se está enviando más información de la necesaria.
Dónde se utiliza: Coste y calidad.
Consultar este término
“Se ha comido la ventana de contexto”
La conversación, herramientas y documentos ocupan casi todo lo que cabe en el modelo.
Dónde se utiliza: Agentes.
Consultar este término
“Haz context engineering”
Diseña mejor qué información entra y sale del contexto, no solo la frase del prompt.
Dónde se utiliza: Agentes.
Consultar este término
“Pon structured outputs”
Haz que la salida siga un formato o esquema que el software pueda procesar con seguridad.
Dónde se utiliza: APIs.
Consultar este término
“Que devuelva JSON”
La respuesta debe ser datos estructurados y no prosa libre.
Dónde se utiliza: Automatización.
Consultar este término
“Expón un endpoint”
Crea una URL/API concreta desde la que otro sistema pueda llamar al servicio.
Dónde se utiliza: Backend.
Consultar este término
“Dale streaming”
Envía la respuesta a medida que se genera.
Dónde se utiliza: UX de chat.
Consultar este término
“Estamos pegando el rate limit”
La aplicación está alcanzando el límite de peticiones o tokens del proveedor.
Dónde se utiliza: APIs.
Consultar este término
“Pon retries con backoff”
Reintenta fallos temporales dejando cada vez más tiempo entre intentos.
Dónde se utiliza: Producción.
Consultar este término
“Está en local”
Se ejecuta en tu propio ordenador o entorno cercano, no necesariamente en Internet.
Dónde se utiliza: Desarrollo/modelos locales.
Consultar este término
“Corre el modelo en local”
Ejecuta los pesos en tu propia máquina.
Dónde se utiliza: Privacidad y pruebas.
Consultar este término
“Self-hostéalo”
Despliega y administra tú el servicio en tu infraestructura.
Dónde se utiliza: Modelos y software.
Consultar este término
“Levanta un VPS”
Crea o enciende un servidor virtual remoto.
Dónde se utiliza: Hosting.
Consultar este término
“Levanta el servicio”
Arranca el programa para que empiece a atender peticiones.
Dónde se utiliza: Servidores.
Consultar este término
“Está escuchando en el 8000”
Hay un programa esperando conexiones en el puerto 8000.
Dónde se utiliza: Backend.
Consultar este término
“Abre el puerto 443”
Permite tráfico hacia el puerto habitual de HTTPS en el firewall/red.
Dónde se utiliza: Hosting.
Consultar este término
“Pon un reverse proxy”
Coloca una capa delante de tus aplicaciones para recibir y repartir tráfico.
Dónde se utiliza: Nginx, Caddy, Traefik.
Consultar este término
“Apunta el DNS”
Configura el dominio para que resuelva hacia la infraestructura correcta.
Dónde se utiliza: Hosting.
Consultar este término
“Funciona en localhost”
Funciona en el ordenador del desarrollador, no necesariamente en el servidor real.
Dónde se utiliza: Desarrollo.
Consultar este término
“Dockerízalo”
Empaqueta la aplicación para ejecutarla en contenedores.
Dónde se utiliza: DevOps.
Consultar este término
“Levanta el Compose”
Arranca los servicios definidos en Docker Compose.
Dónde se utiliza: Docker.
Consultar este término
“Persiste eso en un volumen”
Guarda los datos fuera de la vida efímera del contenedor.
Dónde se utiliza: Docker.
Consultar este término
“Haz un deploy”
Publica una nueva versión en un entorno.
Dónde se utiliza: DevOps.
Consultar este término
“Sube a staging primero”
Prueba la versión en preproducción antes de ponerla a clientes reales.
Dónde se utiliza: DevOps.
Consultar este término
“Sube a prod”
Despliega en producción.
Dónde se utiliza: DevOps.
Consultar este término
“Haz rollback”
Vuelve a una versión anterior porque la actual falla.
Dónde se utiliza: DevOps.
Consultar este término
“Pushea los cambios”
Envía tus commits al repositorio remoto.
Dónde se utiliza: Git.
Consultar este término
“Pullea antes”
Trae e integra los cambios remotos antes de continuar.
Dónde se utiliza: Git.
Consultar este término
“Haz un PR”
Abre una Pull Request para revisar e integrar cambios.
Dónde se utiliza: GitHub.
Consultar este término
“Mergea esto”
Integra los cambios de una rama en otra.
Dónde se utiliza: Git.
Consultar este término
“Ha roto main”
Un cambio en la rama principal ha provocado fallos.
Dónde se utiliza: Git/CI.
Consultar este término
“Mira los logs”
Revisa los registros del sistema para entender qué está ocurriendo.
Dónde se utiliza: Debug.
Consultar este término
“Está dando 500”
El servidor está devolviendo errores internos HTTP 5xx.
Dónde se utiliza: Backend.
Consultar este término
“Da timeout”
La operación tarda más del límite permitido.
Dónde se utiliza: APIs.
Consultar este término
“Está OOM”
El proceso se ha quedado sin memoria.
Dónde se utiliza: IA y servidores.
Consultar este término
“Es CPU-bound”
La CPU es el principal cuello de botella.
Dónde se utiliza: Rendimiento.
Consultar este término
“Tenemos un bottleneck”
Una parte concreta está limitando el rendimiento del sistema completo.
Dónde se utiliza: Arquitectura.
Consultar este término