Auditoría de sesgo

Examen sistemático de un sistema de IA para detectar si sus resultados perjudican de forma desproporcionada a algún grupo, típicamente definido por características protegidas.

Es uno de los instrumentos técnicos que el curso propone para convertir los principios éticos en acción, frente a la mera declaración de intenciones. Su papel es el de verificación: el principio de equidad no se cumple porque se afirme, sino porque se mide.

En el curso

Módulo 8 — capítulo 1, uno de los tres instrumentos de los marcos prácticos, junto con la Tarjeta del modelo y las listas de verificación ética.

El caso que justifica su existencia es Amazon: el sesgo estaba en los datos históricos de entrenamiento, no en una intención de diseño, y solo una revisión orientada a buscarlo podía encontrarlo.

Se apoya en el Sesgo algorítmico del módulo 4 —donde el curso reúne los casos de iTutorGroup, SafeRent y UnitedHealth— y complementa las estrategias de prueba del módulo 7 (Sandboxing, pruebas A/B, Verificaciones de seguridad).

Relacionado

Sesgo algorítmico · Tarjeta del modelo · Auditoría simulada · Verificaciones de seguridad · Pruebas adversarias · Amazon — herramienta de reclutamiento · Gobernanza