Human-in-the-loop

Diseño que combina automatización con IA y revisión o decisión humana en los puntos donde la exactitud o el criterio resultan críticos. No consiste en vigilar todo, sino en identificar qué resultados son sensibles o de alto riesgo y reservar esos para una persona con capacidad real de intervenir.

Los glosarios del curso lo recogen dos veces: como intervención humana en el módulo 3 y como human-in-the-loop en el módulo 6.

En el curso

Módulo 3 — es el principio de cierre del capítulo 1: aunque los agentes operen de forma autónoma, la supervisión humana sigue siendo imprescindible para resultados éticos y correctos. Los cuatro ejemplos del capítulo son precisamente los que exigen un humano: pedir 1.000 blusas, emitir órdenes de evacuación, reconfigurar el cumplimiento financiero y rediseñar rutas logísticas. La advertencia clave del módulo: cuando se omite el humano en el bucle, los errores no solo se cometen, se escalan.

Módulo 4 — la supervisión humana es la primera estrategia de mitigación de alucinaciones: como los LLM carecen de capacidad intrínseca de verificación, el humano es indispensable para monitorear salidas y detectar inexactitudes (Dayal, 2025). Reaparece en el sesgo (curación humana de los datos de entrenamiento), en los sistemas agénticos (supervisión con capacidad de escalar cuestiones complejas) y como una de las tres defensas frente a la Inyección de prompt. El caso del chatbot de Air Canada —condenado a reembolsar por información que el propio chatbot inventó— es el precedente legal que el módulo usa para mostrar el coste de desplegar sin supervisión.

Módulo 5 — define la fase "caminar" del modelo de adopción gradual: sistemas con humano en el bucle que recomiendan la próxima mejor acción en ventas o marketing, chatbots asistidos en atención al cliente. Es el escalón intermedio entre los pilotos y la autonomía plena.

Módulo 6 — figura entre las estrategias prácticas de medición del desempeño: mantener revisión manual para resultados sensibles o de alto riesgo. La frecuencia de escalamiento humano es además una de las señales de la dimensión aprendizaje y adaptabilidad: sirve para saber si el agente está ganando autonomía. La secuencia que el módulo describe es que las implementaciones tempranas dependen de la supervisión humana y esta va cediendo terreno a medida que la evidencia se acumula.

Módulo 7 — aparece en tres funciones distintas:

1. Como requisito legal. El GDPR reconoce el derecho a excluirse de decisiones tomadas íntegramente por sistemas automatizados cuando tienen impacto significativo. La supervisión humana deja de ser buena práctica y pasa a ser obligación.
2. Como verificación de seguridad. Revisor humano para decisiones críticas, juicios éticos complejos o situaciones imprevistas, y bucle de revisión dentro del Canal de pruebas que intercepta los casos de alto riesgo señalados por anomalías.
3. Como coste de velocidad. El capítulo 3 la llama supervisión manual y la contrapone a la automatizada: adecuada para procesos de alto riesgo y ritmo lento, inviable en el cuadrante de alto riesgo y alta velocidad — donde el módulo la desplaza a auditoría posterior sobre registros inmutables.

Relacionado

Gobernanza · Implementación por fases · Puntuación de confianza · Alucinación · Sandboxing · Sesgo algorítmico · Acceso con privilegios mínimos · Desinformación sintética

Añadido en el módulo 7: Cuadrantes de riesgo y velocidad · Verificaciones de seguridad · Canal de pruebas · LLM como juez · GDPR · HIPAA