01
¿Por qué alucinan los modelos?
Una empresa de electrodomésticos acaba de lanzar un chatbot de soporte. Un cliente le pregunta por su nuevo producto, el hervidor eléctrico K2, y el chatbot responde con cuatro frases fluidas y muy seguras. En la escena de abajo, compara cada frase con el manual del producto.
- La capacidad es de 1,7 L
- Sin revisar
- Se apaga sola cuando hierve
- Sin revisar
- La garantía es de 2 años
- Sin revisar
- Se puede lavar en el lavavajillas
- Sin revisar
Pregunta: "Háblame del hervidor eléctrico K2"
La respuesta del modelo se ve fluida y segura. Activa la comparación con el manual.
Cuando un modelo presenta como un hecho algo falso o sin respaldo, se habla de alucinación. Hay dos tipos. La respuesta puede contradecir hechos del mundo, o puede contradecir el material que le diste, o ir más allá de él. En la escena, "la garantía es de 2 años" contradice el manual, y lo del lavavajillas es algo que el modelo se inventó: el manual no lo dice en ningún lado.
La causa está en cómo genera texto un LLM. Un LLM no busca los datos antes de responder. Elige las palabras que tienen más probabilidad de venir a continuación. En las descripciones de hervidores aparecen a menudo cosas como "2 años de garantía" o "apto para lavavajillas", así que esas frases suenan naturales. Cuanto menos sabe el modelo (un producto que no vio en el entrenamiento, noticias posteriores a su entrenamiento, una pregunta ambigua), más fácil es que rellene los huecos inventando.
Si la pregunta dice… → elige esto
- “Genera contenido convincente que no es cierto”Alucinación
- “Contradice los documentos proporcionados o añade cosas que no dicen”Respuesta sin fundamento (alucinación)
- “Cita artículos o fuentes que no existen”Alucinación (citas inventadas)
- “La respuesta suena segura, así que debe ser correcta”Falso: el tono no lo demuestra
Las alucinaciones no se pueden eliminar del todo. Entonces, ¿hasta dónde se pueden reducir?
02
Cómo reducir las alucinaciones
No hay una solución única. Las alucinaciones se reducen apilando varias protecciones, una encima de otra. En la escena de abajo, añádelas de una en una.
- Respuestas erróneas
- 28%
Porcentaje de respuestas erróneas al sumar protecciones a un chatbot de soporte de hervidores (ejemplo)
Sin ninguna protección, el modelo responde con lo que sabe y falla más o menos tres de cada diez veces (28%).
| Método | Cómo ayuda |
|---|---|
| Fundamentar con RAG | En lugar de inventar lo que no sabe, el modelo lee el material recuperado y responde a partir de él |
| Pedirle que diga "no lo sé" | Evita que invente una respuesta convincente cuando el material no cubre la pregunta |
| Citas y verificación de fundamentación | Pide una fuente para cada frase y marca automáticamente las frases que no coinciden con las fuentes |
| Pedirle que razone paso a paso | Reduce los errores en cálculos y razonamientos de varios pasos |
| Revisión humana | Una persona revisa antes de enviarlas las respuestas que serían peligrosas si fallan |
Hay dos malentendidos muy comunes. Primero, bajar la temperatura (temperature) hace que las respuestas sean más consistentes, no más verdaderas. Segundo, hacer ajuste fino (fine-tuning) para enseñarle datos al modelo no es una buena solución. El modelo no siempre recuerda bien esos datos y, cada vez que la información cambia, hay que volver a entrenarlo. Usa RAG para aportar datos y deja el ajuste fino para el estilo y el formato.
Si la pregunta dice… → elige esto
- “Reducir alucinaciones basando las respuestas en datos actuales de la empresa”RAG (fundamentación)
- “Que no invente cuando el material no tiene la respuesta”Indicarle que diga "no lo sé"
- “Comprobar automáticamente que cada frase está respaldada por la fuente”Verificación de fundamentación (grounding)
- “Con la temperatura en 0 desaparecen las alucinaciones”Falso
- “Respuestas en un ámbito donde los errores son peligrosos”Revisión humana (human-in-the-loop)
La alucinación es el modelo equivocándose por su cuenta. Pero hay otro problema: usuarios que intentan sacarle a propósito respuestas dañinas, y un modelo que dice cosas que nunca debería decir.
Solo Pro
Hasta aquí llega la parte gratuita
Los otros 5 capítulos están disponibles para suscriptores Pro. Cada uno sigue con visuales en 3D y pistas de “si la pregunta dice…”, y en el último capítulo lo pones a prueba tú mismo.
- 03Guardrails
- 04Filtros de contenido
- 05Proteger los datos personales
- 06Red teaming y monitoreo
- 07Elegir la protección
Publicidad
PasslyExam
Ya leíste el concepto. Ahora ponlo a prueba con preguntas de examen
PasslyExam ofrece preguntas de práctica originales, explicaciones y simulacros completos basados en la guía oficial de cada certificación. Las explicaciones cubren por qué la opción correcta es la correcta y por qué las opciones parecidas no lo son. Regístrate y practica gratis todos los días.