MENU
Todo lo que necesitas saber para dejar de pagar suscripciones de IA, mantener tus datos en casa y averiguar qué modelo puede mover tu ordenador… antes de gastarte un euro en hardware nuevo.
Cada vez que abres ChatGPT, Claude o Gemini pasa algo de lo que probablemente no eres consciente: tu pregunta viaja a un centro de datos que no controlas y en un armario lleno de GPUs que no verás nunca un modelo del lenguaje lo procesa y te envía la respuesta de vuelta.
Funciona de maravilla.
Hasta que un día el modelo te contesta peor y no sabes por qué. O te fundes los tokens de la mañana en media hora. O te das cuenta de que estás mandando datos de clientes a un servidor ajeno en Estados Unidos.
¿Y si el modelo viviera en tu propio ordenador?
Esa es exactamente la pregunta que abre esta sesión de la Comunidad, en la que vemos cómo funciona la inteligencia artificial en local: qué modelos abiertos existen, cómo caben (o no) en un equipo normal, qué herramientas usar para empezar hoy mismo, y (lo más importante) cuándo compensa y cuándo es solo un juguete bonito.
Hay dos formas de usar un modelo de lenguaje.
La primera la conoces: los modelos comerciales. GPT, Claude, Gemini y demás. Son los más potentes que existen, mejoran solos sin que toques nada y solo tienes que seleccionarlos en un desplegable. A cambio, pagas una cuota, tus datos salen de tu ordenador y nunca sabes qué están cambiando por debajo.
La segunda son los modelos abiertos, que puedes descargar y ejecutar tú mismo. Aquí no pagas mensualidad y nada sale de tu equipo: tus secretos se quedan en casa. El precio es otro: van un paso por detrás en potencia y necesitas un ordenador que esté a la altura.
La IA en local es precisamente eso (usar esos modelos abiertos en tu propia máquina) y en esta sesión vemos el equilibrio real entre ambos mundos: qué ganas, qué pierdes y en qué situaciones cada opción tiene sentido.
Para entender si tu ordenador puede con un modelo, primero hay que entender qué es un modelo del lenguaje.
Escucha el episodio 22. Qué es un LLM (explicado para que lo entiendas) para entender todos los detalles.
Un modelo es un fichero enorme con miles de millones de números: sus pesos o parámetros. Por eso el tamaño del modelo depende directamente de su número de parámetros: cuantos más números que guardar, más pesado es el fichero. Cuando oyes que un modelo es "de 8B" o "de 70B", te están diciendo justo eso: cuántos miles de millones de parámetros lleva dentro... y de ahí sale lo que va a ocupar.
Y aquí está la segunda clave: los modelos de lenguaje se ejecutan en la GPU, no en el procesador. Para poder usarlos, todos esos pesos tienen que caber en la memoria de la propia tarjeta gráfica, la VRAM.
Simplificando mucho: el modelo tiene que caber entero en la VRAM de tu GPU para poder ejecutarlo (con un matiz importante en los Mac, que vemos en la sesión).
Así que la ecuación mental es sencilla:
más parámetros → fichero más grande → más VRAM necesaria.
De ahí sale la pregunta que más gente se hace antes de empezar
¿cuánta memoria necesito?
En la sesión vemos paso a paso cómo responder a esa pregunta con números concretos y por qué los modelos comerciales top requieren, literalmente, un armario entero de GPUs para responderte.
Si los modelos comerciales deactuales no caben en un ordenador de andar por casa, ¿cómo consigue la gente ejecutarlos? Con tres técnicas que conviene que te suenen:
La buena noticia: no necesitas ser ingeniero para probar esto. Hay una escalera de herramientas, de la más sencilla a la más avanzada:
En la sesión hay una demo en directo con LM Studio en la que descargamos un modelo desde Hugging Face, lo cargamos en memoria, y tenemos una conversación real para que veas sin filtros cómo se siente usar un modelo local en un portátil normal.
Aquí es donde la cosa se pone interesante.
Los equipos Apple Silicon tienen memoria unificada: CPU y GPU comparten la misma RAM, lo que les permite mover modelos más grandes de lo que esperarías… a cambio de ir más lentos.
Los PC con GPU NVIDIA van al revés: menos memoria disponible, pero mucha más velocidad.
¿Cuál te conviene? ¿Cuánta RAM o VRAM necesitas para el modelo que tienes en mente? ¿Merece la pena gastarse el dinero en un equipo nuevo o tirar de nube? En la sesión compara mos opciones reales, precios incluidos 🫡
Un recorrido completo por la IA en local, de cero a ser capaz de tener las claves para tomar tu propia decisión:
Si has llegado hasta aquí, probablemente te reconozcas en alguno de estos perfiles:
Usas IA a diario, pagas tu suscripción religiosamente y has empezado a preguntarte si podrías tener algo parecido en tu propio ordenador sin pagar cada mes. Esto es para ti.
Trabajas con datos sensibles (tuyos o de clientes) y te incomoda mandarlos a un servidor que no controlas. Esto también es para ti.
Te has topado con siglas como GGUF, Q4 o "memoria unificada", te has perdido, y quieres que alguien te lo explique de forma clara y con una demo real antes de decidir si invertir en hardware. Esto sobre todo es para ti.
La sesión completa, con la demo en directo y el resto del archivo de sesiones de la Comunidad, está disponible para miembros.
🎥 Lo encontrarás a continuación.