LLM como juez
Usar un segundo modelo de lenguaje, independiente y confiable, para auditar las salidas de un agente: evalúa o califica sus respuestas según criterios definidos, en lugar de depender únicamente de revisores humanos.
El término procede de IBM, citado por el curso. Tras generar el agente una respuesta, el modelo auditor puede marcar sesgos o errores fácticos, lo que permite escalar la revisión y detectar problemas sutiles que una muestra humana no alcanzaría.
En el curso
Módulo 7 — capítulo 2, quinta de las Verificaciones de seguridad.
Relacionado
Verificaciones de seguridad · Human-in-the-loop · Canal de pruebas · Pruebas adversarias · Alucinación · Sesgo algorítmico · Puntuación de confianza · LLM
Enlaces entrantes
- Canal de pruebasConcepto
- Human-in-the-loopConcepto
- M7 Gobernanza, cumplimiento y pruebas de agentesMódulo
- Pruebas A-BConcepto
- Pruebas adversariasConcepto
- Verificaciones de seguridadConcepto