Gobernanza

Conjunto de reglas, políticas y mecanismos de supervisión que garantizan que la IA se use de forma segura, ética y conforme a las normas internas y externas de la organización. Su función distintiva frente a los controles técnicos es que asigna responsabilidad: define quién responde cuando un sistema autónomo se equivoca.

En el curso

Módulo 2 — aparece en el glosario y como una de las cinco pautas para adoptar herramientas de programación asistida por IA: hay que equilibrar la democratización con la gobernanza, porque el acceso sin restricciones multiplica el código sin revisar y las vulnerabilidades. La regla práctica que propone es tajante: el código generado por IA pasa exactamente los mismos controles de calidad y cumplimiento que el escrito por personas. Cita a Watson de IBM como ejemplo de asistente que incorpora mecanismos de gobernanza integrados.

Módulo 3 — la trata como gobernanza de datos: cifrado, control de acceso seguro, auditorías periódicas y monitoreo continuo como condición previa a cualquier conocimiento fiable. En la integración con sistemas heredados exige autenticar y autorizar cada servicio (TLS mutuo, RBAC estricto) y registrar cada acción del agente —a qué datos accedió, qué decidió, a quién notificó— tanto para cumplimiento normativo como para diagnosticar incidencias.

Módulo 4 — es una de las cinco subcategorías de la función Identificar del NIST CSF. La acción concreta que sugiere: formar un grupo directivo con TI, Legal, RR. HH. y Cumplimiento, y pedir a cada jefe de departamento que designe un responsable del seguimiento del uso de IA en su área. Reaparece entre las estrategias de mitigación para sistemas agénticos como "marcos rigurosos de gobernanza" con límites estrictos de orquestación.

Módulo 5 — la etapa 2 del ciclo de madurez ("enseñar los fundamentos") es donde se definen las políticas de gobernanza para mitigar la IA en la sombra y se fijan los límites éticos: equidad, transparencia, privacidad y responsabilidad. En la comparación de arquitecturas, la gobernanza es precisamente lo que inclina la balanza: el agente centralizado es más fácil de controlar y auditar; el embebido, más difícil de estandarizar entre instancias.

Módulo 6 — la cuarta de las seis estrategias de última milla es constituir un grupo de trabajo de gobernanza de IA. Además, la gobernanza es la quinta dimensión del marco de medición del desempeño: responde a "¿opera dentro de los límites aceptables?" y se mide con cumplimiento de políticas, frecuencia de alucinaciones o respuestas inseguras y violaciones de directrices. Un agente de resumen legal la prioriza por encima de la experiencia de usuario.

Módulo 7 — es el módulo que la toma como objeto propio y la desarrolla en cuatro planos encadenados:

Relacionado

IA en la sombra · NIST CSF · Human-in-the-loop · Acceso con privilegios mínimos · Implementación por fases · Prevención de pérdida de datos (DLP) · Orquestación · Arquitectura de agentes

Añadido en el módulo 8: Ética de la IA · Tarjeta del modelo · Auditoría de sesgo · No causar daño · Análisis del impacto en las partes interesadas · Prueba de transparencia pública · Partnership on AI

Añadido en el módulo 7: GDPR · CCPA · HIPAA · Canal de pruebas · Cuadrantes de riesgo y velocidad · Análisis de brechas · Auditoría simulada · ISO-IEC 42001 · Ley de IA de la UE · DoNotPay · FAIRLY AI