Puntuación de confianza

Métrica que algunos sistemas de IA devuelven junto con su respuesta, indicando qué probabilidad hay de que esa salida sea correcta. Ayuda a decidir cuánto fiarse de un resultado y cuándo escalarlo a una persona, pero no siempre está disponible y no debe confundirse con una garantía de exactitud.

En el curso

Módulo 4 — aparece en el capítulo 3, entre las estrategias de mitigación de alucinaciones y problemas de calidad: pedir al modelo que explique su razonamiento o que devuelva un puntaje de confianza ayuda a acotar las alucinaciones (Anisuzzaman et al., 2025). Es una de las seis estrategias, junto a la supervisión humana y la verificación de hechos, el reentrenamiento continuo, la alfabetización mediática, el traspaso fluido a agentes humanos y los bucles de retroalimentación.

El problema que intenta resolver está bien delimitado en el módulo: los LLM generan respuestas a partir de probabilidades, no de verdades verificadas (Dayal, 2025), y carecen de capacidad intrínseca para comprobar su propio trabajo. El peligro de la Alucinación no es solo el error, sino que llega envuelto en apariencia de certeza. Una puntuación de confianza es un intento de devolver esa incertidumbre a la superficie para que el usuario la vea.

El escenario CareBot 2.0 ilustra el vacío que deja su ausencia: el asistente clínico recomendó reducir la dosis de un anticoagulante un 10 % cuando la guía oficial de dosificación renal exige un 50 %, y añadió una cita falsa a una revista inexistente. La Dra. Chen anotó la cifra confiando plenamente en el sistema. Ni ella ni farmacia contrastaron la sugerencia. Un análisis de BHM Healthcare Solutions sitúa las tasas de alucinación en modelos usados para decisión clínica entre el 8 % y el 20 %.

Relacionado

Alucinación · Human-in-the-loop · Desinformación sintética · Gobernanza · Implementación por fases · Ventana de contexto · RAG