Alucinación

Salida de un modelo generativo que no está fundamentada ni en sus datos de entrenamiento ni en el prompt, pero que se presenta con la misma fluidez y aparente seguridad que una respuesta correcta. Su peligro no reside tanto en el error como en que llega envuelto en apariencia de certeza y puede pasar inadvertido.

En el curso

Módulo 1 — la señala como riesgo persistente incluso en los modelos de razonamiento: un estudio de OpenAI encontró que su modelo o4-mini alucinaba más que versiones anteriores de ChatGPT en dos métricas.

Módulo 4 — es donde se trata a fondo. La causa raíz es que los modelos generan a partir de probabilidades y no de verdades verificadas, y carecen de capacidad intrínseca para comprobar su propio trabajo. Un análisis de BHM Healthcare Solutions estima tasas del 8 % al 20 % en modelos de decisión clínica; en la encuesta Deloitte de 2024 sobre más de 2.700 líderes, la pérdida de confianza por alucinaciones e inexactitudes figura entre las barreras de adopción. Casos citados: Air Canada, el chatbot MyCity de Nueva York y las transcripciones inventadas de Whisper.

Módulo 5 — la trata como riesgo de negocio en la adopción de navegadores con IA y en la dependencia excesiva: el abogado que preparó el caso contra Avianca con jurisprudencia inventada es el ejemplo emblemático de que los modelos "se equivocan con confianza".

Módulo 6 — la convierte en métrica: la frecuencia de alucinaciones es uno de los indicadores del pilar de gobernanza en el tablero de desempeño continuo del agente.

Relacionado

LLM · Chatbot · Transformadores · Procesamiento de lenguaje natural · RAG · Intervención humana · Puntuación de confianza (IA)