Qué es
Una alucinación ocurre cuando un modelo de lenguaje produce una respuesta que suena coherente y segura, pero que es factualmente incorrecta, inventada o no está respaldada por ninguna fuente real. No es un error de sintaxis: el texto generado es gramaticalmente perfecto, solo que es falso.
Por qué sucede
Los modelos de lenguaje no consultan una base de datos de hechos verificados: generan la continuación de texto estadísticamente más probable según lo que aprendieron durante el entrenamiento. Cuando no tienen suficiente información sobre un tema, pueden “rellenar” con algo plausible en lugar de admitir que no lo saben.
Cómo se mitiga
- Combinar el modelo con fuentes externas verificables mediante RAG.
- Pedir al modelo que cite sus fuentes o indique su nivel de certeza.
- Incluir revisión humana en contextos donde la precisión es crítica (salud, legal, finanzas).