Cómo funcionan los modelos de lenguaje grandes (LLM)

01

Un LLM elige lo que viene después

LLM significa large language model, es decir, modelo de lenguaje grande. Lo de "grande" se refiere a dos cosas: la cantidad de texto con la que se entrenó y la cantidad de números que hay dentro del modelo. Esos números se llaman pesos, y volveremos a ellos en el capítulo 5.

En el fondo, un LLM solo hace una cosa: mira el texto que hay hasta ahora y elige el siguiente token. Un token es la unidad con la que el modelo lee y escribe. Por ahora, piensa en él como un trozo de palabra. Se parece mucho al teclado del teléfono cuando te sugiere la siguiente palabra, solo que el modelo mira un texto mucho más largo y elige con mucho más cuidado.

En la escena de abajo, las fichas de la izquierda son el texto que escribimos: "El cielo está". Las barras de detrás son los candidatos para el siguiente hueco, y la altura de cada barra es la probabilidad que le dio el modelo. Avanza token a token.

Cuando se elige un token, se añade al final del texto, y el modelo vuelve a mirar todo el texto, ahora más largo, para elegir el siguiente. Esto se repite hasta que la respuesta está completa. Usar cada salida como parte de la siguiente entrada se llama generación autorregresiva. Por eso las respuestas de un chatbot aparecen poco a poco en la pantalla en lugar de salir de golpe: de verdad se están produciendo token a token.

¿Y cuándo se detiene? El modelo también tiene un token especial que significa "fin". Se detiene cuando sale ese token, como en el último paso de la escena, o cuando llega al límite de longitud que hayas fijado.

Un modelo grande, preentrenado con una cantidad enorme de datos y reutilizado después para muchas tareas distintas (resumir, traducir, responder preguntas…), se llama modelo fundacional (foundation model). Un LLM es un modelo fundacional para texto. Los modelos que además manejan imágenes o audio se llaman modelos multimodales.

En la escena, los tokens parecían palabras completas. Fue una simplificación para que se entendiera mejor. Los tokens reales son un poco distintos.

02

Cortar el texto en tokens

Un modelo no puede leer letras tal cual. Primero el texto se corta en trozos pequeños, y cada trozo se cambia por un número fijo. Esos trozos son los tokens, y la herramienta que hace el corte se llama tokenizador. Así que el modelo no recibe texto: recibe una lista de números.

Un token puede ser una palabra entera, parte de una palabra o un signo de puntuación. Las combinaciones de letras frecuentes forman un solo token, mientras que las palabras raras se dividen en varios trozos. Así, incluso una palabra que el modelo nunca ha visto se puede formar con trozos que sí conoce. En la escena de abajo, cambia de frase y mira cómo se corta. El número bajo cada ficha es el ID de token que recibe el modelo (los ID y los puntos de corte son ejemplos; cambian de un modelo a otro).

"Unbelievable" es una sola palabra, pero se convirtió en tres tokens. La frase en español, que significa lo mismo, ocupa 23 caracteres frente a 21 y aun así necesita 6 tokens en vez de 5. Muchos tokenizadores se construyeron sobre todo con texto en inglés, así que otros idiomas suelen gastar más tokens para decir lo mismo. Los números tampoco se cortan dígito a dígito, sino de forma irregular. Es una de las razones por las que a los LLM les cuestan las cuentas con números grandes o contar letras.

Tres cosas que decide el número de tokens

Ahora el modelo recibe una lista de números. Pero esos números son solo etiquetas. Mirando 3022 y 3023 no puedes saber si sus significados se parecen. Hace falta un paso que meta significado en los números.

03

Números con significado (embeddings)

Dentro del modelo hay una gran tabla. Tiene una fila por cada ID de token, y cada fila guarda entre cientos y miles de números. Cuando llega un ID de token, el modelo saca esa fila. Convertir un token en una lista de números así se llama embedding (incrustación), y la lista de números que obtienes se llama vector.

Al principio, los números de la tabla son aleatorios. Durante el entrenamiento (capítulo 5) se van ajustando poco a poco, de modo que los tokens que suelen aparecer en textos parecidos acaban con filas parecidas. La escena de abajo saca de la tabla las filas de dos palabras y dibuja cada número como una barra. Las filas reales tienen muchísimos más números; aquí se han reducido a 10.

"Gato" y "perro" tienen casi el mismo patrón de barras. "Gato" y "auto" se ven bastante distintos. Lo parecidos que son dos vectores se suele medir con la similitud del coseno: cuanto más cerca de 1, más se parecen. Aquí viene lo que suele confundir: cada casilla, por separado, no tiene una etiqueta como "casilla de animal" o "casilla de vehículo". El significado sale de muchas casillas trabajando juntas.

Los embeddings también aparecen en la generación aumentada por recuperación (RAG). Ahí, un modelo de embeddings dedicado convierte una frase o un párrafo entero en un solo vector para encontrar documentos cuyo significado se acerque a la pregunta. El principio es el mismo: significado cercano, números cercanos. Tienes más en el capítulo de embeddings de la guía de RAG.

La misma palabra, "banco", significa cosas distintas según las palabras que la rodean. ¿Cómo nota el modelo la diferencia?