Pruebas adversarias

Someter activamente al agente a entradas maliciosas o fuera de distribución para evaluar su solidez. Incluyen fuzzing, inyección de prompts extremos y la simulación de usuarios enojados, confundidos o malintencionados.

Su valor está en que revelan fallos que las pruebas normales no producen: vulnerabilidades de inyección, errores lógicos y comportamientos que solo aparecen cuando alguien intenta romper el sistema a propósito.

En el curso

Módulo 7 — aparecen dos veces:

• Capítulo 2, como una de las cinco Verificaciones de seguridad. La recomendación citada es de QAwerk: incluir pruebas adversarias y fuzz que simulen usuarios difíciles para revelar fallos.
• Capítulo 3, como uno de los cuatro tipos de prueba de la eficacia de los controles, junto a las funcionales, las de cumplimiento y las de escenario: "intentan engañar al agente para que rompa las reglas".

La evidencia de pruebas adversarias es además uno de los contenidos exigidos en la documentación de validación (capítulo 4), porque es lo que acredita la debida diligencia ante un auditor.

Relacionado

Verificaciones de seguridad · Inyección de prompt · Canal de pruebas · Sandboxing · LLM como juez · Caso extremo · Armamentización