Vídeos

Vídeos cortos

Los shorts de YouTube publicados, con transcripción y enlace a la noción que tratan.

Esta IA clasificaba perfectamente… leyendo la longitud de los mensajes

Transcripción
Una IA clasifica tus mensajes perfectamente durante el aprendizaje. ¿Puedes fiarte de ella? La trampa del libro, construida a propósito: en el aprendizaje, las incidencias son largas, con una fórmula de cortesía. Las peticiones de información son cortas. Dos reglas funcionan entonces igual de bien: leer las palabras… o leer la longitud. Como un alumno listillo que adivina la respuesta por el tamaño de la pregunta. En la prueba, invertimos: incidencias cortas, peticiones largas. Y los tres métodos probados cometen exactamente los mismos errores. ¿Por qué? En el aprendizaje, la fórmula de cortesía solo aparecía con las incidencias. Un indicio tan cómodo como la propia categoría. La reparación: cambiar los datos, no el modelo. Con 24 mensajes nuevos, la exactitud pasa del 50 % al 79,2 %. Entonces, ¿tu IA lee la tarea… o la longitud, la fuente, la fecha? Solo una prueba en la que el indicio ya no sigue a la categoría puede decirlo. El capítulo 4 de La Mecánica interna de los LLM monta esta trampa y la desenmascara. Suscríbete para no perderte lo que viene.

85 % de acuerdo entre dos personas… la mitad por azar

Transcripción
Dos personas clasifican los mismos 100 textos. Coinciden 85 veces. ¿Es mucho? Clasificar un texto es como pitar un fuera de juego: se aplica una regla escrita. Dos árbitros con la misma regla deberían pitar las mismas faltas. 85 % de acuerdo. Pero una parte de ese acuerdo llega… por azar. Imagina dos correctores que no leen nada y lo echan a cara o cruz. Coincidirían una vez de cada dos: 50 %, por puro azar. El kappa solo conserva el acuerdo más allá del azar. 85 menos 50, entre 100 menos 50… 0,70. Y los desacuerdos se esconden en los casos límite. « La factura es incorrecta »: ¿incidencia, o petición de información? Dos personas pueden dudar. La solución: escribir la regla con sus contraejemplos, medir el acuerdo, y solo después juzgar una máquina. Una herramienta no puede ser mejor que la definición de lo que se le pide. Entonces, cuando te dicen que una IA « lo hace tan bien como los humanos »… ¿qué humanos, y con qué regla escrita? El capítulo 3 de La Mecánica interna de los LLM construye esta referencia paso a paso. Suscríbete para no perderte lo que viene.

París, respuesta n.º 433 de una IA… y luego la 1.ª gracias a una sola frase

Transcripción
¿Conoce una IA la capital de Francia? Hagamos la prueba, con un modelo real: GPT-2. Le damos la frase francesa del libro: « La capitale de la France est », la capital de Francia es. Y miramos qué token pone en cabeza para continuar. Veredicto: en cabeza, « a » , « la », « un »… ¿Y París? En el puesto 433. Una posibilidad entre 4000. Ahora, añadimos una sola frase antes: « La capitale de l'Allemagne est Berlin », la capital de Alemania es Berlín. Y repetimos exactamente la misma pregunta. París salta del puesto 433 al primero. Y justo detrás… Berlín. El modelo no ha aprendido nada: sus pesos no se han movido. Solo ha cambiado el texto. Explicación plausible: reconoce un patrón, tal país, tal capital, y lo prolonga. Entonces, ¿la IA sabía la respuesta… o solo ha copiado una forma? Para decidirlo, hay que abrir el modelo y mirar dentro. El capítulo 2 de La Mecánica interna de los LLM realiza este experimento, y el capítulo 8 abre el modelo. Suscríbete para no perderte lo que viene.

80 % de aciertos… y ni una sola incidencia detectada

Transcripción
Una herramienta de IA clasifica los mensajes de un servicio de atención al cliente. Resultado: 80 % de aciertos. ¿Buena noticia? Piensa en alguien que clasifica el correo en dos bandejas. Incidencia: una avería, un bloqueo. Información: una pregunta sobre precios o plazos. La probamos con 10 mensajes: 8 peticiones de información… y solo 2 incidencias. Ahora, una herramienta perezosa que responde siempre « información », sin leer nada. Resultado: 8 de 10. ¡[80 %|Ochenta por ciento] también! Solo que la perezosa no ha encontrado ni una incidencia. Justo lo que el servicio quería evitar. El remedio: antes de comentar un resultado, calcula el de un método trivial, la baseline, con los mismos mensajes. Si ya saca un 80 %, la herramienta no ha aprendido nada útil. Y antes que nada, escribir el contrato de la tarea: qué recibe la herramienta, qué respuestas se permiten, qué cuenta como correcto… y qué hacer con los casos dudosos. Entonces, un 80 %, ¿está bien o no? Depende de lo que hace el método más tonto… y de lo que esperabas de la herramienta. El capítulo 1 de La Mecánica interna de los LLM plantea este contrato, y el capítulo 3 construye la referencia que dice qué es correcto. Suscríbete para no perderte lo que viene.

Una IA juzga a otra IA: ¿podemos fiarnos?

Transcripción
Para evaluar una IA, cada vez más se pide la opinión de otra IA. ¿Podemos fiarnos? Es el principio del LLM juez. Se le da una tabla de criterios y dos respuestas. Elige la mejor y explica por qué. Es rápido y barato. Pero tiene sus sesgos. A menudo prefiere la primera respuesta que se le muestra: si inviertes el orden, su veredicto puede invertirse también. Y a veces confunde longitud con calidad. Algunas buenas prácticas: presentar las respuestas en los dos órdenes, exigir la explicación antes de la nota, y usar una temperatura baja. Y si el juez es también un modelo, ¿quién comprueba al juez? El capítulo 15 de La Mecánica de los LLM concluye con la evaluación de los sistemas de IA. Suscríbete para no perderte lo que sigue.

Tres modelos, cuatro herramientas: por qué MCP lo simplifica todo

Transcripción
Para conectar tres modelos con cuatro herramientas, ¿cuántos conectores hay que escribir? 12. Sin un estándar, cada modelo necesita su propio conector para cada herramienta. Con m modelos y n herramientas, hacen falta m por n. Se vuelve inmanejable muy rápido. El MCP, o Model Context Protocol, hace de enchufe universal, como el USB-C. Cada herramienta se conecta una sola vez, y cualquier aplicación puede usarla. Con tres modelos y cuatro herramientas, se pasa de doce conectores a siete: tres más cuatro. Pero si un agente puede conectarse a cientos de herramientas, ¿cómo elige la buena sin perderse? El capítulo 14 de La Mecánica de los LLM presenta el MCP y los protocolos agénticos. Suscríbete para no perderte lo que sigue.

Responder sobre un documento desconocido: RAG y herramientas

Transcripción
¿Cómo puede una IA responder sobre un documento que nunca vio durante su entrenamiento? Gracias al RAG. Es un examen a libro abierto: en lugar de responder de memoria, el modelo busca primero los pasajes adecuados en una base de documentos. Tres pasos. Recuperar: se encuentran los pasajes más cercanos a la pregunta. Aumentar: se añaden al contexto. Generar: el modelo responde apoyándose en ellos. Y si el RAG le da ojos al modelo, las herramientas le dan manos. Para 345 por 987, mejor llamar a una calculadora que adivinar. Resultado: 340 515. Pero si los pasajes recuperados son malos, ¿puede ser buena la respuesta? El capítulo 13 de La Mecánica de los LLM presenta el RAG, las herramientas y los agentes. Suscríbete para no perderte lo que sigue.

Escribir para pensar mejor: la cadena de razonamiento

Transcripción
¿Por qué una IA que escribe su razonamiento se equivoca menos en matemáticas? Un modelo clásico intenta adivinar la respuesta directamente. Un modelo de razonamiento escribe primero pasos intermedios, como un alumno en su borrador. Cada palabra escrita es un poco más de cálculo. Escribir los pasos le da al modelo tiempo para explorar, comprobar y corregir. Por ejemplo: tres libros a doce euros, pagados con un billete de cincuenta. Primer paso: tres por doce, 36. Segundo paso: cincuenta menos treinta y seis, 14. Se devuelven catorce euros. Pero un razonamiento bien escrito no es una prueba: puede ser falso y parecer convincente. Entonces, ¿cómo comprobar el razonamiento de una IA? El capítulo 12 de La Mecánica de los LLM presenta los modelos de razonamiento. Suscríbete para no perderte lo que sigue.

Misma pregunta, otra respuesta: el sorteo y la temperatura

Transcripción
¿Por qué la misma pregunta da a veces dos respuestas distintas? En cada paso, el modelo da una probabilidad a cada palabra posible. Por ejemplo: hola, cuarenta y cinco por ciento. Buenas, treinta y cinco. Ey, veinte. Después sortea según esas probabilidades. La temperatura modifica esas probabilidades. Baja, la palabra favorita aplasta a las demás: respuestas seguras, pero repetitivas. Alta, las probabilidades se acercan: respuestas más variadas, pero más arriesgadas. Con una temperatura de cero coma cinco, hola pasa del 45 al 55 por ciento. Con una temperatura de dos, baja al 39 por ciento, y ey sube a 26. Entonces, para un asistente médico, y para escribir un poema, ¿qué temperatura elegirías? El capítulo 11 de La Mecánica de los LLM detalla las estrategias de generación. Suscríbete para no perderte lo que sigue.

Enseñar a una IA a decir no: el alineamiento

Transcripción
Mostrar buenas respuestas a una IA no basta. También hay que enseñarle lo que no debe decir. Pero ¿cómo? Se muestra a unas personas una pregunta y dos respuestas del modelo. Su tarea es sencilla: elegir la mejor. Comparar es mucho más fácil que redactar una respuesta perfecta. Por ejemplo: explica la derivada a un estudiante de secundaria. Respuesta A: la derivada mide a qué velocidad cambia una cantidad. Respuesta B: es cosa de matemáticos, no sirve de mucho. Los evaluadores eligen la A. Miles de estas elecciones sirven después para entrenar al modelo a preferir las respuestas del primer tipo. Es la idea del RLHF, y de métodos más recientes como DPO. Pero un modelo alineado refleja las preferencias de quienes eligieron. Entonces, ¿quién debería hacer esas elecciones? El capítulo 10 de La Mecánica de los LLM explica el alineamiento y sus límites. Suscríbete para no perderte lo que sigue.

Un modelo en bruto continúa, no responde: afinamiento y LoRA

Transcripción
Pregúntale a un modelo en bruto: ¿cuál es la capital de Francia? Puede responder París. O bien continuar con: ¿cuál es la capital de Alemania? Tras el preentrenamiento, el modelo sabe continuar un texto, no responder. El afinamiento supervisado le muestra pares: una instrucción y, después, la respuesta ideal. Aprende el comportamiento de un asistente. No se le enseñan hechos nuevos, sino a usar lo que ya sabe. Y aquí, la calidad de los ejemplos importa mucho más que su número. Para adaptar un modelo sin reentrenarlo todo, existe LoRA. En lugar de modificar una matriz de unos 16 millones de números, se entrenan dos matrices pequeñas de unos 32 000 números. Como notas adhesivas pegadas en un manual. Y si se pueden pegar varios juegos de notas, ¿se puede conservar un solo modelo base para varios oficios? El capítulo 9 de La Mecánica de los LLM presenta el afinamiento supervisado y LoRA. Suscríbete para no perderte lo que sigue.

140 GB para un solo modelo: ¿por qué hacen falta tantas GPU?

Transcripción
¿Por qué hacen falta decenas de tarjetas gráficas para entrenar un gran modelo de lenguaje? Hagamos el cálculo. Un modelo de setenta mil millones de parámetros, cada uno guardado en dos bytes, ya pesa 140 GB. Una tarjeta H cien solo tiene 80. Y eso son solo los pesos. Para aprender, también hay que guardar las activaciones, los gradientes y los estados del optimizador. La factura de memoria sube todavía más. Una sola tarjeta ya no basta: el modelo, solo con sus pesos, supera su memoria antes de empezar a aprender. Dos respuestas. Repartir el trabajo entre varias tarjetas. Y reducir la precisión de los números: calcular en 16 bits en lugar de 32 divide por dos el espacio de cada número. Mismo modelo, mismos números: con dieciséis bits, cada uno ocupa la mitad del espacio que con treinta y dos. ¿Hasta dónde puede reducirse la precisión de los números antes de que el modelo pierda calidad? El capítulo 8 de La Mecánica de los LLM detalla estas optimizaciones del entrenamiento. Suscríbete para no perderte lo que sigue.

¿Por qué una IA no conoce la actualidad? | La fecha de corte

Transcripción
Pregúntale a una IA por las noticias de la semana. Muchas veces no las conoce. ¿Por qué? Durante el preentrenamiento, el modelo lee enormes cantidades de texto aprendiendo a adivinar la palabra siguiente. Pero esa lectura se detiene en una fecha precisa: la fecha de corte. Después, ya no sabe nada. Según el estudio Chinchilla, unos 20 tokens por parámetro. Un modelo de 70 000 millones de parámetros debería leer, por tanto, alrededor de 1,4 billones de tokens. Añadir después nuevos conocimientos no es sencillo. Al aprender una receta de cocina, el modelo podría olvidar cómo hacer una suma. Se habla de olvido catastrófico. Entonces, ¿cómo dar a un modelo información reciente, sin tener que reentrenarlo cada vez? El capítulo 7 de La Mecánica de los LLM explica el preentrenamiento y sus límites.

671 000 millones de parámetros, 37 000 en uso: la mezcla de expertos

Transcripción
Un modelo de 671 000 millones de parámetros que solo usa 37 000 millones para cada palabra. Es el caso de DeepSeek-V3. ¿Cómo es posible? Es la mezcla de expertos. El modelo contiene muchas redes especializadas. Para cada palabra, un distribuidor, el router, elige los pocos expertos que la van a procesar. Los demás descansan. Piensa en un gran hospital. En la recepción, cada paciente es enviado al especialista adecuado. El hospital sabe muchísimo, pero cada paciente solo ve a unos pocos médicos. La trampa es un router que lo envía todo al mismo experto. Ese experto se sobreentrena, y los demás ya no sirven para nada. Por eso se añade una penalización que obliga a repartir el trabajo. Una última pregunta: si solo trabajan 37 000 millones de parámetros para cada palabra, ¿necesita el modelo menos memoria, o solo menos cálculo? El capítulo 6 de La Mecánica de los LLM describe la arquitectura de mezcla de expertos.

¿El doble de texto, el cuádruple de cálculo? | El coste de la atención

Transcripción
Si duplicamos la longitud de un texto, ¿se duplica también el trabajo de la atención? No. Se multiplica por cuatro. En la atención, cada palabra se compara con todas las demás. Con 8 palabras, son 64 comparaciones. Con 16 palabras, 256. El coste sigue el cuadrado de la longitud. Para un modelo que lee libros enteros, este cuadrado se convierte en un verdadero muro de cálculo y de memoria. Una solución, usada por ejemplo por Mistral, es la ventana deslizante. Cada palabra solo mira a sus vecinas cercanas, como una linterna que sigue la lectura en lugar de iluminar todo el estadio. El coste ya solo crece en línea recta. Pero si cada palabra solo ve a sus vecinas, ¿cómo puede una información del principio del texto llegar todavía al final? El capítulo 5 de La Mecánica de los LLM explora estas optimizaciones de la arquitectura.

BERT o GPT: ¿leer o escribir? | Codificador y decodificador

Transcripción
BERT y GPT vienen del mismo invento: el Transformer. Sin embargo, uno sirve sobre todo para leer, y el otro para escribir. ¿Por qué? El codificador lee toda la frase de una vez, en los dos sentidos. Está hecho para comprender: clasificar una opinión, reconocer el nombre de un lugar o de una persona. Es la familia de BERT. El decodificador, en cambio, escribe una palabra tras otra, mirando solo lo que viene antes. Su ejercicio: adivinar la palabra siguiente. A muy gran escala, eso dio lugar a GPT, LLaMA o Mistral. ¿Hace falta un gran modelo generativo para clasificar opiniones de clientes en positivas y negativas? A menudo, no. Un modelo de tipo BERT lo hace muy bien, y cuesta mucho menos. Entonces, en un sistema real, ¿por qué se combinan a menudo los dos: un codificador para buscar, y un gran modelo para redactar? El capítulo 4 de La Mecánica de los LLM presenta estas familias de modelos.

¿Cómo sabe una IA a quién se refiere «lo»? | La atención

Transcripción
En la frase «el gato vio al ratón y lo persiguió», ¿cómo entiende una máquina que la palabra lo se refiere al ratón? El Transformer no lee una palabra tras otra. Para cada palabra, mira toda la frase y se pregunta qué palabras necesita. Después da un peso a cada una. Es un poco como una biblioteca. Tu pregunta es la consulta. Las etiquetas de los libros son las claves. Su contenido son los valores. Se compara la consulta con todas las claves, y se leen sobre todo los libros que coinciden. Aquí, la palabra lo compara su consulta con las claves de las demás palabras. La coincidencia más fuerte es con ratón. Su sentido se enriquece sobre todo con el de ratón. Pero si todas las palabras se leen a la vez, ¿cómo sabe el modelo que Juan se come al león, y no al revés? El capítulo 3 de La Mecánica de los LLM explica la atención, y la respuesta a esta pregunta.

¿Lee de verdad una IA tus palabras? | La tokenización

Transcripción
Cuando le escribes a una IA, en realidad no lee tus palabras. Lee trozos de palabras, convertidos en números. Antes de cualquier cálculo, el texto se corta en pequeñas unidades llamadas tokens. La frase «La IA es útil» se convierte en cinco trozos, y cada uno recibe un número. El modelo solo verá esos números. ¿Por qué no palabras enteras? Hay demasiadas, con todas las conjugaciones y las erratas. Y las letras sueltas harían los textos muy largos. Los trozos de palabras son el término medio. Una consecuencia concreta: los servicios de IA cobran por tokens, no por palabras. Y dos modelos distintos no cortan necesariamente un mismo texto de la misma manera. Una última pregunta: si una lengua se corta en más trozos que otra, ¿qué pasa con el coste, y con la cantidad de texto que el modelo puede leer de una vez? El capítulo 2 de La Mecánica de los LLM detalla la tokenización y los embeddings.

99,9 % de aciertos… ¿y aun así inútil? | Precisión y recall

Transcripción
Tomemos una prueba de detección de una enfermedad rara. De cada 1000 personas, solo una está enferma. La prueba declara sanas a todas. ¿Es una buena prueba? Si contamos sus respuestas correctas, acierta en el 99,9 % de los casos. Casi perfecto. Salvo que se le escapó la única persona que buscábamos. El resultado global no basta. Cuando la prueba da la alerta, ¿acierta? Eso es la precisión. Entre los enfermos reales, ¿cuántos encuentra? Eso es el recall. Hay que mirar los dos. Otro ejemplo: 100 correos, de los cuales 20 son estafas. El filtro bloquea 10, y 8 son estafas de verdad. Acierta 8 veces de cada 10. Pero deja pasar 12: solo atrapa 8 de 20. Entonces, ¿qué error es más grave? En una enfermedad, no detectar a un enfermo suele ser peor que una falsa alarma. En un filtro de spam, es al revés. Y en tu campo, ¿qué error cuesta más? El capítulo 1 de La Mecánica de los LLM analiza estas medidas y sus trampas.