LLM 101

Esta sesión forma parte del Club de Lectura de la Comunidad Ninja.

Basándonos en el libro Build a large language model (from scratch) de Sebastian Raschka, exploramos paso a paso los componentes fundamentales de los modelos del lenguaje.

Durante más de una hora desgranamos los capítulos centrales del libro, combinando teoría, visualizaciones y anécdotas que nos ayudan a aterrizar conceptos que, sobre el papel, pueden parecer complejos.

👉 Hablamos de:

• Cómo se representan las palabras en forma de números mediante tokenización y embeddings.
• Qué hace tan especial a la arquitectura Transformer y por qué los modelos GPT se quedan solo con su “mitad”.
• Qué son los mecanismos de atención y cómo permiten al modelo entender el contexto.
• Y sí, también tocamos temas más filosóficos como los sesgos en los datos y cómo acaban filtrándose en las predicciones.

🔧 En la próxima sesión nos meteremos de lleno en código con PyTorch para ver cómo se entrena un LLM (en versión mini, claro).

Así que si quieres tener contexto antes de ensuciarte las manos, esta sesión es la mejor antesala.

🎥 Dale al play, abre tu cuaderno de notas y prepárate para entender, de verdad, cómo funcionan los modelos de lenguaje más potentes del momento.