Módulo 7 — Gobernanza, cumplimiento y pruebas de agentes
Curso: Inteligencia Artificial Agéntica Aplicada a la Transformación Empresarial
Institución: MIT Professional Education (Digital Plus Programs) — Canvas, curso 17151
Módulo: 7. Gobernanza, cumplimiento y pruebas de agentes
Profesores: Dr. Abel Sanchez y Dr. John Williams
Fuentes de estos apuntes: contenido interactivo del módulo (reproductor Elucidat, 11 páginas), guía de referencia oficial MITPE_DT_M7_Reference_Guide.pdf (9 pp.), Glosario_M7.pdf (1 p.) y Cuadrantes_de_riesgo_M7.pdf (1 p.).
Apuntes redactados con palabras propias a partir del material del curso. Las referencias bibliográficas se reproducen íntegras por ser datos factuales.
Índice
- Enfoque y objetivos de aprendizaje
- Capítulo 1 — Marcos regulatorios para la privacidad de los datos
- Capítulo 2 — Evaluar el comportamiento del agente con estrategias de prueba
- Capítulo 3 — Velocidad de agentes vs. supervisión
- Capítulo 4 — Documentación y preparación para cumplimiento
- Preguntas de autoevaluación con respuestas
- Glosario del módulo
- Preguntas de reflexión
- Tareas del módulo
- Cifras y datos clave para memorizar
- Vídeos y recursos multimedia
- Notas de discrepancia entre la web y la guía PDF
1. Enfoque y objetivos de aprendizaje
Enfoque del módulo
Este es el módulo que cierra el círculo entre "el agente funciona" y "el agente puede desplegarse legalmente". Su tesis de fondo es que el cumplimiento normativo no se resuelve con conocimiento jurídico: hace falta traducir la ley a controles técnicos verificables, y verificar que esos controles funcionan mediante pruebas. La secuencia de los cuatro capítulos reproduce esa cadena de traducción.
| Capítulo | Pregunta que responde | Instrumento que aporta |
|---|---|---|
| 1. Marcos regulatorios | ¿Qué leyes obligan y a qué? | GDPR, CCPA, HIPAA |
| 2. Estrategias de prueba | ¿Cómo compruebo que el agente se comporta? | Sandboxing, pruebas A/B, Verificaciones de seguridad |
| 3. Velocidad vs. supervisión | ¿Dónde pongo los controles sin frenar el negocio? | Cuadrantes de riesgo y velocidad |
| 4. Documentación | ¿Cómo demuestro ante un auditor que hice todo lo anterior? | Cuatro tipos de documentación + prácticas de preparación |
El hilo argumental es acumulativo: las leyes del capítulo 1 fijan las obligaciones; las pruebas del capítulo 2 las convierten en evidencia técnica; los controles del capítulo 3 deciden dónde se ejercen y a qué coste de velocidad; la documentación del capítulo 4 hace que todo lo anterior sea demostrable ante un regulador. El módulo insiste en un cambio de marco: la gobernanza no es una carga administrativa sino un activo estratégico que protege el cumplimiento y la competitividad.
Objetivos de aprendizaje
Al terminar el módulo, el participante podrá:
- Resumir los marcos regulatorios clave —GDPR, CCPA e HIPAA— y explicar su relevancia para los despliegues de IA agéntica.
- Aplicar estrategias de prueba —aislamiento de procesos, pruebas A/B y revisiones de seguridad— para evaluar el comportamiento de los agentes antes del despliegue completo.
- Evaluar las compensaciones entre velocidad de los agentes y supervisión, para determinar los puntos adecuados donde insertar controles.
- Preparar agentes y sistemas para auditorías, alineando las prácticas de documentación con los estándares de preparación para el cumplimiento.
2. Capítulo 1 — Marcos regulatorios para la privacidad de los datos
Por qué la IA agéntica choca con la ley de privacidad
Un agente autónomo procesa volúmenes grandes de datos, muchos de ellos personales o sensibles, y lo hace sin que una persona valide cada acceso. Eso lo pone directamente bajo el radar de tres marcos que difieren en alcance, obligaciones y régimen sancionador. El módulo los presenta como el suelo legal mínimo sobre el que se construye cualquier despliegue.
2.1 GDPR — Reglamento General de Protección de Datos
Norma de la Unión Europea en vigor desde 2018. Su rasgo determinante es el alcance extraterritorial: se aplica a cualquier organización que trate datos personales de individuos en la UE, con independencia de dónde esté domiciliada, y regula también las transferencias de esos datos fuera del EEE.
Principios y requisitos
| Principio | Qué exige |
|---|---|
| Transparencia | Explicar cómo se usan los datos personales y cómo el sistema de IA toma decisiones que afectan a personas |
| Minimización | Recoger y tratar únicamente los datos necesarios para el fin declarado |
| Restricción de propósito | No reutilizar para otro fin datos recogidos para uno concreto sin nuevo consentimiento |
| Responsabilidad | Mantener registros del tratamiento, evaluaciones de impacto y protección de datos desde el diseño y por defecto |
| Consentimiento | Inclusión voluntaria (opt-in) para tratar datos personales |
Derechos del titular — acceso, rectificación, supresión (derecho al olvido), restricción del tratamiento, oposición, portabilidad y derecho a una explicación sobre decisiones tomadas exclusivamente por medios automatizados.
Traducción a la IA agéntica. El GDPR se convierte en cuatro exigencias de ingeniería: (a) explicabilidad —el agente no puede operar como caja negra cuando su decisión afecta a una persona—; (b) minimización —recoger solo lo esencial para la tarea—; (c) supervisión humana —el afectado puede excluirse de decisiones íntegramente automatizadas de impacto significativo—; y (d) anonimización o seudonimización al manejar datos personales.
Sanciones. Aplican las autoridades nacionales de protección de datos; los individuos pueden además ejercer acciones privadas por daños. El incumplimiento llega hasta el 4 % de los ingresos anuales globales o 20 millones de euros (≈23 millones de dólares), la cifra que sea mayor (Dialzara Team, 2024).
2.2 CCPA — Ley de Privacidad del Consumidor de California
También de 2018. Es una ley estatal estadounidense que da a los residentes de California control sobre su información personal, y se aplica a empresas con ánimo de lucro que recogen sus datos y superan determinados umbrales de ingresos o de volumen de datos.
Principios
- Control del consumidor sobre sus datos personales.
- Consentimiento de exclusión voluntaria (opt-out) para la venta: la empresa puede vender los datos salvo que el consumidor lo prohíba explícitamente.
- Prohibición de vender datos de menores de 16 años sin consentimiento.
Derechos del titular — derecho a saber (qué se recoge, usa, comparte o vende), acceso, eliminación y exclusión de la venta de datos.
Traducción a la IA agéntica. La CCPA no menciona la IA de forma explícita, pero sus obligaciones alcanzan igualmente a los despliegues agénticos. El módulo destaca dos aterrizajes, presentados como tarjetas desplegables:
- Minimización de datos: el agente solo recoge y usa los datos personales necesarios para su fin.
- Transparencia: la empresa explica con claridad cómo el sistema toma decisiones que afectan a personas, y diseña el sistema para que sea transparente y responsable.
Sanciones. Las aplica el Fiscal General de California; los individuos pueden litigar por violaciones de datos. La multa máxima citada es de 7.500 dólares por infracción (Dialzara Team, 2024).
2.3 HIPAA — Ley de Portabilidad y Responsabilidad de Seguros de Salud
Ley federal estadounidense de 1996 que protege la privacidad de la información médica de los pacientes y la seguridad de los registros clínicos.
Las cinco reglas
| Regla | Contenido |
|---|---|
| Privacidad | Estándares nacionales para proteger la PHI; límites a su uso y divulgación sin autorización individual |
| Seguridad | Salvaguardas administrativas, físicas y técnicas para la ePHI (PHI electrónica): confidencialidad, integridad y disponibilidad |
| Notificación de violaciones | Obligación de notificar a los afectados y, según el caso, al HHS y a los medios, tras una brecha de PHI no protegida |
| Cumplimiento | Procedimientos de investigación de infracciones e imposición de sanciones |
| Transacciones y códigos | Estandariza las transacciones electrónicas sanitarias para ganar eficiencia y reducir costes |
Objetivos declarados: proteger la privacidad del paciente, garantizar la portabilidad del seguro médico al cambiar de trabajo o ante cambios vitales importantes, estandarizar las transacciones electrónicas y combatir el fraude y el abuso en el sistema de salud.
¿Quién debe cumplir? Dos figuras:
- Entidades cubiertas: planes de salud, centros de compensación de datos médicos (clearinghouses) y proveedores sanitarios que transmiten información médica por vía electrónica.
- Socios comerciales: individuos u organizaciones que usan o divulgan PHI en nombre de una entidad cubierta —servicios de facturación, proveedores de TI, servicios de almacenamiento de datos—. La entidad cubierta debe firmar con ellos un acuerdo de asociación comercial (BAA).
Sanciones
- Civiles: de 137 dólares hasta más de 2 millones de dólares anuales, según la gravedad de la infracción y el grado de conocimiento e intención de la organización (Martinez, 2025).
- Penales: el uso indebido o la obtención ilegal de PHI puede acarrear multas de hasta 250.000 dólares y penas de hasta 10 años de prisión; las tramita el Departamento de Justicia (Martinez, 2025).
Traducción a la IA agéntica. El módulo enumera cinco requisitos operativos:
- Protección estricta de la PHI durante el procesamiento y la decisión autónomos (Regla de Privacidad).
- Control de acceso dinámico y consciente del contexto: mecanismos granulares basados en atributos que deciden quién ve o modifica PHI según función del usuario, sensibilidad del dato y contexto ambiental — es la implementación del estándar HIPAA de necesidad mínima.
- BAA y gestión de proveedores con todo tercero que toque PHI.
- Salvaguardas técnicas, administrativas y físicas: cifrado, control de acceso basado en funciones (RBAC), registros de auditoría y entornos seguros de manejo de datos en todos los flujos de la IA (Regla de Seguridad).
- Auditabilidad y monitoreo continuo: registros de auditoría inmutables y detallados que capturen cada acceso a PHI, cada decisión del agente y cada interacción de usuario, para verificación regulatoria y detección de infracciones.
3. Capítulo 2 — Evaluar el comportamiento del agente con estrategias de prueba
Por qué probar antes de desplegar
Los agentes actúan de forma autónoma sobre datos, usuarios y componentes del sistema. Probarlos en entornos controlados antes del uso generalizado previene errores, sesgos y riesgos de seguridad. El capítulo desarrolla tres estrategias complementarias —ninguna suficiente por sí sola— y las integra después en un canal de pruebas único.
3.1 Sandboxing
El sandboxing aísla el código y las acciones del agente de los sistemas de producción, de modo que un error o un comportamiento indebido quede contenido. Los entornos se construyen con máquinas virtuales, contenedores o técnicas de navegador como WebAssembly (Wasm).
Ejemplo técnico citado: investigadores de NVIDIA demostraron cómo ejecutar código Python generado por modelos de IA dentro de un entorno aislado de navegador mediante Pyodide, aprovechando las capas de seguridad de WebAssembly para proteger el sistema anfitrión de operaciones inseguras (Lucas, 2024).
Cómo implementarlo
- Replicar entornos similares a producción con datos enmascarados o sintéticos. Salesforce recomienda usar datos de CRM realistas y anonimizados para validar la integración antes del despliegue.
- Simular interacciones de usuario, llamadas a API y escenarios de fallo.
- El sandbox bloquea efectos secundarios y fugas de datos procedentes de procesos de IA no confiables.
Puntos clave
- Ejecutar siempre el código nuevo del agente primero en sandbox o entorno de pruebas.
- Usar entornos realistas con datos de producción enmascarados, para descubrir problemas que solo afloran bajo cargas de trabajo reales.
- Emplear múltiples capas de aislamiento —VM/contenedores, restricciones de red, filtros a nivel de aplicación— como defensa en profundidad.
3.2 Pruebas A/B
Las pruebas A/B dividen el tráfico entre dos o más versiones del agente para comparar su desempeño: un grupo recibe el agente actual (control) y otro la versión actualizada (variación). La aleatorización evita sesgos y garantiza que ambos grupos sean estadísticamente comparables. La división habitual es 50/50 (Salesforce, s. f.).
Cómo implementarlas
- Asignación aleatoria de usuarios a control o variación.
- Métricas de éxito definidas de antemano: tasa de éxito en la tarea, tiempo de finalización, satisfacción del usuario (CSAT).
- Recoger datos suficientes hasta alcanzar significancia estadística.
- Control de versiones del prompt: cada vez que cambie el prompt o el modelo del agente, ejecutar una prueba A/B contra la versión anterior. Las comparaciones paralelas de modelos garantizan que cada cambio se evalúe por mejora o regresión.
- Monitorizar métricas primarias (éxito de la tarea) y secundarias (tiempo de respuesta, tasa de error).
- Segmentar el análisis por tipo de usuario o escenario: un agente puede rendir bien en promedio y fallar en casos extremos.
Puntos clave
- Asignación aleatoria y división equitativa del tráfico.
- Criterios de éxito fijados antes de empezar; datos hasta significancia estadística.
- Una sola variable por prueba —solo el modelo, o solo el prompt— para aislar el efecto.
- Estadística apropiada: intervalos de confianza, pruebas de hipótesis.
- Interpretación holística: destacar en una métrica y fallar en otra es un resultado frecuente.
IBM sitúa las pruebas A/B y las simulaciones del mundo real dentro de la evaluación de agentes, como método para detectar regresiones, sesgos y comportamientos inseguros.
3.3 Verificaciones de seguridad
Las Verificaciones de seguridad comprueban que el agente se comporta adecuadamente y cumple las normas. Más allá del desempeño, hay que probar seguridad, fiabilidad y cumplimiento de políticas: salidas dañinas (discurso de odio), sesgos, violaciones de privacidad — antes y después del despliegue.
Las cinco medidas
| Medida | En qué consiste |
|---|---|
| Filtros de contenido automatizados | Bloquean salidas no permitidas. Gemini de Google aplica filtros no configurables (bloquean automáticamente CSAM o datos privados de usuarios) y configurables (discurso de odio, acoso). Son la primera línea de defensa |
| Controles de seguridad y capas de confianza | Restricciones integradas o módulos de monitoreo que interceptan o corrigen acciones inseguras. La capa de confianza Einstein de Salesforce verifica continuamente las salidas en busca de filtraciones de privacidad o problemas de exactitud |
| Presencia humana en el bucle | Revisor humano para decisiones críticas o aprobación final en casos inciertos: juicios éticos complejos, situaciones imprevistas |
| Pruebas adversarias | Someter al agente a entradas maliciosas o fuera de distribución: fuzzing, inyección de prompts extremos, simulación de usuarios enojados, confundidos o malintencionados (QAwerk) |
| LLM como juez | Un segundo modelo de lenguaje, independiente y confiable, evalúa o califica las respuestas del agente según criterios definidos. Permite escalar la revisión y detectar sesgos o errores fácticos sutiles (IBM) |
Puntos clave
- Validar salidas contra reglas de seguridad: bloqueo automático de discurso de odio, fugas de datos privados y contenido no permitido.
- Sondeo adversario continuo antes de que los fallos lleguen a los usuarios.
- Defensas en capas: filtros de políticas, API seguras, monitoreo y capas de confianza.
- Alertas en tiempo real ante métricas anómalas, fallos repetidos o accesos no autorizados a datos.
- Proceso continuo: la seguridad no es un hito único; hay que reevaluar el agente periódicamente a medida que cambian modelo, datos y entorno.
3.4 El canal de pruebas integrado
- Sandbox inicial — valida la funcionalidad básica con datos sintéticos a gran escala.
- Pruebas A/B piloto — despliegan las variantes prometedoras en grupos pequeños de usuarios, midiendo desempeño en vivo y recogiendo retroalimentación humana.
- Verificaciones de seguridad automatizadas — se ejecutan de forma continua tanto en sandbox como en las pruebas A/B en vivo, bloqueando cualquier actividad que viole reglas predefinidas.
- Bucles de revisión humana — interceptan los casos de alto riesgo señalados por anomalías o violaciones, y refinan tanto el agente como las propias reglas.
- Despliegue completo condicionado a: aprobar todos los criterios de sandbox y A/B, no registrar violaciones críticas de seguridad durante un período sostenido, y obtener la aprobación de los equipos de riesgo y cumplimiento.
Conclusión del capítulo. Aislar, comparar variantes, hacer cumplir reglas e involucrar personas convierte las pruebas de una lista de verificación en un activo estratégico. La iteración continua y la supervisión rigurosa son lo que permite desplegar agentes fiables y de alto impacto.
4. Capítulo 3 — Velocidad de agentes vs. supervisión: dónde insertar controles
La analogía del gasto
El capítulo arranca con una metáfora financiera. Imagine dos empresas extremas:
- En la primera, cualquier empleado compra lo que quiera sin límite: es rápida, pero está expuesta al uso indebido.
- En la segunda, el director financiero aprueba cada compra, hasta una caja de clips: es segura, pero está paralizada.
La mayoría adopta un punto medio: umbrales. Las compras de bajo valor se aprueban al instante; las de alto valor pasan por revisión. Ese equilibrio entre eficiencia y gestión del riesgo es el marco que el módulo traslada a la gobernanza de la IA.
Traducción. El "gasto" son las decisiones y acciones del agente. Los controles de seguridad (guardrails) equivalen a las reglas de aprobación, y la supervisión es cómo la organización las hace cumplir.
| Configuración | Consecuencia |
|---|---|
| Muy pocos controles | El sistema actúa rápido pero peligrosamente; sube la probabilidad de infracción de cumplimiento |
| Demasiados controles | El sistema se protege del riesgo pero hunde la productividad y la satisfacción del cliente |
El reto no es elegir entre velocidad y seguridad, sino colocar los controles donde más se necesitan (Trantopoulos et al., 2025; Smith, 2025).
Cómo los controles crean supervisión
Los controles de seguridad son los límites que las personas fijan para que el agente actúe dentro de parámetros aceptables. Pueden escribirse en el código, en reglas de negocio o en políticas operativas, y ser de naturaleza lingüística, procedimental, matemática o contextual. En todos los casos generan supervisión: o bien la IA se detiene y verifica condiciones, o bien la restricción se aplica automáticamente sin intervención humana.
La cadena causal es directa: controles → supervisión → velocidad y seguridad del cumplimiento. Controles estrictos hacen que la IA se autocompruebe más a menudo o escale a un humano; eso ralentiza la decisión pero reduce la probabilidad de infringir GDPR, CCPA o HIPAA. Controles flexibles aceleran, pero aumentan la exposición.
Supervisión manual vs. automatizada
| Manual (human-in-the-loop) | Automatizada | |
|---|---|---|
| Qué es | Una persona revisa y aprueba las acciones antes de que se ejecuten | La propia IA y sus sistemas de apoyo aplican los controles en tiempo real |
| Dónde encaja | Procesos de alto riesgo y ritmo lento, donde el fallo es costoso o peligroso | Procesos de alta velocidad donde la demora dañaría la experiencia o el resultado |
| Ejemplo del módulo | Liberar registros médicos bajo HIPAA: un humano verifica la solicitud y confirma los requisitos de privacidad | Un chatbot de comercio electrónico responde al instante porque está programado para redactar la información personal antes de responder |
| Coste | Ralentiza significativamente | Exige pruebas rigurosas para garantizar que los controles funcionan como se espera |
El modelo real es híbrido: acciones de bajo riesgo y alto volumen bajo control automático; casos de mayor riesgo o inusuales escalados a un humano.
Casos de uso empresarial
| Marco | Comportamiento del agente | Efecto |
|---|---|---|
| GDPR | Un chatbot de atención responde al instante preguntas de producto, pero se detiene cuando el cliente pide copia de sus datos personales: verifica identidad y registra la interacción | Ralentiza esa transacción concreta; evita una infracción grave de privacidad |
| HIPAA | Un agente de admisión médica recoge síntomas generales con rapidez, pero al mencionarse medicamentos, diagnósticos o condiciones sensibles activa protocolos de manejo seguro y alerta a un revisor humano | Garantiza el tratamiento conforme de datos de salud, aunque frene el proceso |
| CCPA | Un recomendador de comercio electrónico sugiere productos al instante pero evita almacenar datos personales innecesarios; si el cliente pide eliminar su historial de compras, procesa la solicitud de inmediato y verifica el borrado | Cumple el derecho de eliminación sin perder velocidad en la recomendación |
| Conocimiento interno | Un asistente corporativo responde sin demora a "¿cuál es la previsión de ventas del cuarto trimestre?", pero rechaza o escala "muéstrame los correos personales del CEO" | La supervisión automatizada protege información interna sensible |
Cuadrantes de riesgo y velocidad
El módulo ofrece una matriz 2×2 —disponible además como PDF accesible para lectores de pantalla, Cuadrantes_de_riesgo_M7.pdf— que cruza nivel de riesgo con velocidad requerida.
| Baja velocidad | Alta velocidad | |
|---|---|---|
| Alto riesgo | Aprobaciones de préstamos · Decisiones de contratación · Presentaciones regulatorias La exactitud y el cumplimiento son primordiales. Supervisión manual justificada: el coste del error es significativo aunque frene el proceso |
Detección de fraude en tiempo real · Escalamiento de emergencias médicas El cuadrante más difícil: seguridad y acción inmediata a la vez. Supervisión automatizada obligatoria, con revisión humana a posteriori vía auditorías y análisis de registros |
| Bajo riesgo | Programación interna · Redacción de informes Errores baratos de corregir y urgencia baja. Supervisión mínima |
Autocompletar búsqueda · Recomendaciones de productos La velocidad es valiosa y los errores son tolerables. Supervisión ligera, quizá revisiones periódicas |
Probar la eficacia de los controles
Por bien diseñado que esté un control, hay que probarlo antes del despliegue y monitorizarlo después.
| Tipo de prueba | Qué verifica |
|---|---|
| Funcionales | Que el agente responda como se espera en circunstancias normales (QAwerk, 2025) |
| De cumplimiento | Que siga leyes y políticas en todos los escenarios relevantes (QAwerk, 2025) |
| Adversarias | Que resista intentos de engañarlo para que rompa las reglas; identifican debilidades explotables (QAwerk, 2025) |
| De escenario | Especialmente valiosas para el equilibrio velocidad/supervisión: ¿escala automáticamente el chatbot GDPR cuando se piden datos personales? ¿identifica y asegura el sistema HIPAA la información de salud sensible? (Masood, 2025) |
El monitoreo continuo es igual de crítico. Incluso con pruebas previas exitosas, las condiciones reales producen comportamientos inesperados. El registro automatizado de decisiones, accesos a datos y escalamientos proporciona la evidencia necesaria para auditorías y ayuda a detectar problemas emergentes antes de que se conviertan en infracciones (Gobierno de Australia, s. f.).
Conclusión del capítulo. El equilibrio no es estático: a medida que evolucionan las regulaciones, cambian las prioridades del negocio y mejora la tecnología, la organización debe revisar continuamente dónde coloca sus controles. El objetivo no es frenar la IA, sino que su velocidad sirva al negocio sin comprometer seguridad, legalidad ni confianza.
5. Capítulo 4 — Documentación y preparación para cumplimiento
El propósito de documentar
La documentación es la columna vertebral de la gobernanza, no papeleo. Cumple cuatro funciones:
- Transparencia durante las auditorías de cumplimiento (Informatica, 2024).
- Confianza de las partes interesadas.
- Demostrabilidad: permite explicar por qué y cómo se tomó una decisión concreta.
- Memoria institucional: registra cómo evolucionan las decisiones, recoge lecciones de fallos y casi-fallos, y sostiene la mejora continua.
En sectores regulados —salud, finanzas— acreditar las pruebas realizadas, el manejo de datos y los mecanismos de supervisión es un requisito, no una opción. La documentación cierra la brecha entre el comportamiento técnico del modelo y la responsabilidad legal, especialmente bajo la Ley de IA de la UE o HIPAA (Shorenstein Center, 2023). En última instancia permite a los líderes entender no solo qué hace el sistema, sino por qué y cómo lo hace.
Los cuatro tipos de documentación
| Tipo | Qué contiene | Para qué sirve |
|---|---|---|
| Políticas y gobernanza | Políticas éticas de IA, pautas de uso aceptable, rutas documentadas de escalamiento para supervisión humana | Que todas las partes conozcan los límites del comportamiento permitido (Diligent, 2025) |
| Diseño y desarrollo técnico | Fuentes de datos, metodología de entrenamiento, control de versiones, especificación de los controles de seguridad, justificación de las decisiones algorítmicas y ajustes del modelo | El "plano" del sistema: transparencia y mantenimiento futuro sin pérdida de conocimiento institucional (NIST, 2023) |
| Evidencia de pruebas y validación | Casos de prueba, resultados esperados, resultados reales y acciones correctivas, en escenarios funcionales, de cumplimiento y adversarios | Demostrar debida diligencia en auditorías y revisiones legales (ISO, 2023) |
| Registros operativos e incidentes | Informes de acceso, detección de anomalías, análisis posteriores a incidentes, seguimiento del desempeño y de la toma de decisiones | Resolución oportuna de problemas; soporte a revisiones internas e investigaciones regulatorias externas (TechTarget, 2024) |
Mantenerlos en formato coherente y accesible es lo que permite responder rápido a solicitudes de cumplimiento, investigaciones internas y preocupaciones de las partes interesadas.
Prácticas de preparación para el cumplimiento
La preparación no consiste en reaccionar ante una auditoría, sino en construir sistemas capaces de demostrar adhesión en cualquier momento.
| Práctica | En qué consiste |
|---|---|
| Análisis de brechas | Comparar periódicamente las operaciones actuales con las leyes y estándares aplicables: ¿cumplen la documentación, el manejo de datos y la supervisión con GDPR, HIPAA o la Ley de IA de la UE? Identifica debilidades antes de que intervenga el regulador (Fitzgerald, 2024) |
| Auditorías simuladas | Verificar que la documentación es precisa, accesible y completa; entrenan a los equipos para auditorías reales (Dialzara, 2024) |
| Revisiones multifuncionales | Reunir a los responsables de legal, cumplimiento, operaciones y tecnología, para alinear controles técnicos con realidades de negocio y reducir la fricción entre cumplimiento y productividad (Fisher Phillips, 2024) |
| Control de versiones y accesibilidad | Almacenar la documentación en sistemas con historial de versiones claro, acceso seguro y búsqueda, para poder producir exactamente la versión relevante de un registro sin demora ante una investigación (ISO, 2023) |
Equilibrar documentación y velocidad
El exceso de papeleo frena el desarrollo tanto como la falta de él expone legalmente. Cuatro tácticas:
- Priorizar según el riesgo. Los procesos de alto riesgo —datos de salud o financieros— exigen documentación detallada y estrictamente controlada; las funciones de menor riesgo admiten formatos más ligeros. Un enfoque basado en riesgo concentra el esfuerzo donde importa (Trantopoulos et al., 2025).
- Integrar la documentación en los flujos de trabajo. Registro automatizado, control de versiones y paneles de cumplimiento reducen el reporte manual mientras generan rastros de auditoría sólidos. La IA puede acelerar tareas como resumir evidencia, redactar informes y señalar brechas, siempre que los controles y la supervisión sigan siendo explícitos (Agarwal et al., 2024; Potter, 2025).
- Aprovechar la tecnología. Herramientas de documentación asistidas por IA generan resúmenes, etiquetan registros y resaltan información faltante; combinadas con estructuras claras de responsabilidad, reducen el tiempo de preparación y mejoran la exactitud (Sanford, 2021).
- Revisiones periódicas en lugar de cuellos de botella continuos. En vez de exigir aprobación en cada paso, programar revisiones periódicas y reservar alertas automáticas para cambios de alto riesgo, dejando los flujos rutinarios sin bloquear (Fitzgerald, 2024).
Fracasos y éxitos reales
Conclusión para el liderazgo. Tratar la documentación como habilitador estratégico y no como carga administrativa: registros sólidos aceleran auditorías, reducen la exposición legal y mejoran la resiliencia. Combinada con pruebas y controles bien establecidos, convierte la gobernanza en una ventaja práctica que protege el cumplimiento sin sacrificar la innovación.
6. Preguntas de autoevaluación con respuestas
El módulo incluye cuatro preguntas de opción múltiple, dos en el capítulo 1 y dos en el capítulo 2.
Capítulo 1
1. ¿Cuál de las siguientes opciones destaca mejor la diferencia entre el GDPR y el CCPA en términos de consentimiento del usuario para el uso de datos?
- ❌ El GDPR requiere consentimiento de exclusión voluntaria para la venta de datos, mientras que la CCPA requiere consentimiento de inclusión voluntaria para todo el procesamiento.
- ✅ El GDPR requiere consentimiento de inclusión voluntaria (opt-in) para procesar datos personales, mientras que la CCPA generalmente requiere consentimiento de exclusión voluntaria (opt-out) para la venta de datos.
- ❌ Tanto el GDPR como la CCPA requieren consentimiento explícito de inclusión voluntaria para todas las actividades relacionadas con datos personales.
- ❌ La CCPA permite la recopilación ilimitada de datos, mientras que el GDPR prohíbe toda toma de decisiones automatizada.
2. Un sistema de IA agéntica se implementa en el ámbito de la salud para procesar registros de pacientes. ¿Qué requisito de HIPAA se aborda más directamente mediante la implementación de registros de auditoría inmutables que registran cada acceso y decisión tomada por la IA?
- ❌ Regla de privacidad
- ❌ Regla de notificación de violaciones
- ❌ Regla de seguridad
- ✅ Auditabilidad y monitoreo del cumplimiento
Capítulo 2
3. Al implementar el sandboxing para los agentes de IA, ¿por qué se recomienda el uso de datos enmascarados o sintéticos?
- ❌ Reducir los costes de computación durante las pruebas.
- ✅ Garantizar que los agentes puedan interactuar de forma segura sin exponer datos confidenciales reales.
- ❌ Acelerar la implementación y omitir las verificaciones de cumplimiento.
- ❌ Garantizar un desempeño idéntico en producción y prueba.
4. ¿Cuál de las siguientes prácticas garantiza mejor que los resultados de una prueba A/B sean válidos y sin sesgos?
- ❌ Probar múltiples cambios a la vez para ahorrar tiempo.
- ✅ Asignar usuarios de forma aleatoria y dividir el tráfico equitativamente (por ejemplo, 50/50).
- ❌ Usar solo usuarios simulados en lugar de reales.
- ❌ Finalizar la prueba tan pronto como una versión funcione ligeramente mejor.
7. Glosario del módulo
Reproducido de Glosario_M7.pdf (nueve términos).
| Término | Definición del curso |
|---|---|
| Canal de pruebas | Proceso que combina el sandboxing, las pruebas A/B y las verificaciones de seguridad antes de la implementación completa |
| Derechos del titular de los datos | Derechos legales de las personas respecto a sus datos personales, como el acceso, la eliminación y el control sobre su procesamiento |
| Entidad cubierta (HIPAA) | Un plan de salud, centro de intercambio de información sobre salud o proveedor de atención médica que transmite información médica por vía electrónica para transacciones cubiertas por la HIPAA |
| Información médica confidencial (PHI) | Información médica identificable individualmente generada por entidades o socios comerciales cubiertos por la HIPAA |
| Minimización de datos | Principio según el cual los sistemas de IA solo deben recopilar y procesar los datos personales necesarios para su propósito previsto |
| Pruebas A/B | Forma de comparar dos versiones de un agente de IA (control frente a variante) con los usuarios para medir las diferencias de desempeño |
| Sandboxing | Método de aislar agentes de IA en un entorno seguro para evitar que errores o riesgos afecten a los sistemas reales |
| Socio comercial (HIPAA) | Persona u organización que realiza determinadas actividades relacionadas con la PHI en nombre de una entidad cubierta o que presta servicios a dicha entidad |
| Verificaciones de seguridad | Conjunto de medidas de protección —filtros, límites de seguridad y revisión humana— que garantizan que los agentes actúen de manera responsable |
8. Preguntas de reflexión
Aparecen solo en la guía PDF, en sección propia; la web no las incluye.
- ¿Qué tan preparada está su compañía para el proceso de gobernanza y auditoría?
- ¿Actualmente dispone de personal capaz de organizar esto? Si no, ¿qué pasos son necesarios para garantizar el cumplimiento?
- A medida que capacite a los empleados e implemente estos pasos en los flujos de trabajo, ¿cómo puede presentar esto como una ventaja estratégica y no como una carga burocrática?
La web incluye además un cuadro "Reflexione" dentro del capítulo 1, sobre la diferencia opt-in / opt-out entre GDPR y CCPA.
9. Tareas del módulo
Actividad 7 — Plan de gobernanza
| Dato | Valor |
|---|---|
| Tipo | Obligatoria, individual, evaluable como parte de la calificación final |
| Extensión | 300–500 palabras |
| Formato de entrega | Documento Word o PDF (subida de archivo en Canvas) |
| Puntuación | 1 punto |
| Enlace | /courses/17151/assignments/441863 |
Enunciado. Crear un plan de gobernanza para la implementación de IA en la propia organización, cubriendo cuatro apartados:
- Jurisdicción — país en el que opera la compañía.
- Sector — industria o sector de actividad.
- Regulaciones aplicables — enumerar y describir brevemente las normas que aplican al sector y ubicación (GDPR, CCPA, HIPAA o requisitos de cumplimiento sectoriales).
- Plan de cumplimiento — cómo garantizará la organización la adherencia: políticas, procesos y prácticas de monitoreo.
El módulo incluye además una encuesta de retroalimentación (quiz de Canvas, no evaluable).
10. Cifras y datos clave para memorizar
| Dato | Valor | Fuente |
|---|---|---|
| Entrada en vigor del GDPR | 2018 | Capítulo 1 |
| Sanción máxima GDPR | 4 % de los ingresos anuales globales o 20 M€ (≈23 M US$), la mayor | Dialzara Team, 2024 |
| Entrada en vigor de la CCPA | 2018 | Capítulo 1 |
| Sanción máxima CCPA | 7.500 US$ por infracción | Dialzara Team, 2024 |
| Edad de protección reforzada CCPA | Menores de 16 años | Capítulo 1 |
| Promulgación de HIPAA | 1996 | Capítulo 1 |
| Sanciones civiles HIPAA | de 137 US$ a más de 2 M US$ anuales | Martinez, 2025 |
| Sanciones penales HIPAA | hasta 250.000 US$ y 10 años de prisión | Martinez, 2025 |
| Reglas de HIPAA | 5 (privacidad, seguridad, notificación, cumplimiento, transacciones) | Capítulo 1 |
| División estándar de tráfico en A/B | 50/50 | Salesforce, s. f. |
| Ejemplo A/B comercio electrónico | 2 semanas, 10.000 usuarios, +15 % de índice de clics | Chan et al., 2024 |
| Estrategias de prueba | 3 (sandboxing, A/B, verificaciones de seguridad) | Capítulo 2 |
| Medidas de verificación de seguridad | 5 (filtros, capas de confianza, HITL, adversarias, LLM como juez) | Capítulo 2 |
| Cuadrantes de riesgo/velocidad | 4 | Capítulo 3 |
| Tipos de documentación de gobernanza | 4 | Capítulo 4 |
| Prácticas de preparación para cumplimiento | 4 | Capítulo 4 |
| Norma de sistemas de gestión de IA | ISO/IEC 42001 (2023) | Capítulo 4 |
| Año de la acción de la FTC contra DoNotPay | 2024 | FTC, 2024 |
11. Vídeos y recursos multimedia
Barrido exhaustivo del reproductor Elucidat: las 11 páginas del módulo recorridas una a una con Elucidat.navigate, rastreando iframe, a[href], todos los atributos del DOM (incluido data-media, donde Elucidat guarda la URL antes de renderizar) y el HTML serializado, buscando YouTube, Vimeo, videocast.emeritus.org, Wistia y Loom. También se revisó el enunciado de la Actividad 7 en Canvas.
| # | Tipo | Título / Contenido | Ubicación en el módulo | URL |
|---|---|---|---|---|
| 1 | Vídeo (Vimeo) | MIT_DT_ESP_M7_intro_V1 — videocast de introducción al módulo (1 min 8 s, publicado el 4 de noviembre de 2025) |
Página "Introducción" | https://player.vimeo.com/video/1133369493 |
| 2 | PDF descargable | Glosario del Módulo 7 | Página "Introducción", bloque "Glosario" | https:/ |
| 3 | PDF descargable | Cuadrantes de riesgo — versión accesible para lectores de pantalla de la matriz 2×2 | Capítulo 3, sección "Cuadrantes de riesgo y velocidad" | https:/ |
Materiales descargables del módulo
| Archivo | Origen | Tamaño |
|---|---|---|
MITPE_DT_M7_Reference_Guide.pdf |
Canvas (archivo 6893541) — publicado como "MITPE_DT_M7 Reference Guide-1.pdf" | 536.594 bytes, 9 pp. |
Glosario_M7.pdf |
CDN de Elucidat | 112.518 bytes, 1 p. |
Cuadrantes_de_riesgo_M7.pdf |
CDN de Elucidat | 61.080 bytes, 1 p. |
12. Notas de discrepancia entre la web y la guía PDF
| Punto | Contenido web (Elucidat) | Guía de referencia PDF | Observación |
|---|---|---|---|
| Numeración | Capítulos 1 a 4 | Secciones 1 a 4 precedidas de "Presentación del módulo" | Mismo contenido |
| Preguntas de reflexión | No las incluye como sección propia (solo un cuadro "Reflexione" en el cap. 1) | Tres preguntas en sección propia | Recogidas en estos apuntes |
| Preguntas de autoevaluación | Cuatro, interactivas | Ausentes | Solo en web |
| Ejemplos y casos | Mayo Clinic, servicios financieros, comercio electrónico, DoNotPay, FAIRLY AI, Pyodide/NVIDIA, capa Einstein, filtros de Gemini | Ausentes o muy resumidos | El detalle solo está en la web |
| Detalle sancionador | Cifras concretas de GDPR, CCPA y HIPAA, incluidas las penas de prisión | Solo la cifra del GDPR (4 % / 20 M€) | Web más completa |
| Las cinco reglas de HIPAA | Enumeradas y explicadas una a una | Mencionadas en un párrafo condensado | Web más completa |
| Matriz de cuadrantes | Imagen interactiva + PDF accesible + explicación por cuadrante | Imagen incrustada + resumen en cuatro viñetas | Equivalentes |
| "Canal de pruebas" | Cinco pasos con criterios de salida explícitos | "Canal de integración", un párrafo | Web más operativa |
| Lista de referencias | 45 entradas | 45 entradas — no coinciden | Ver más abajo |
| Referencia exclusiva de la web | Jainschigg, J. (2025). AI governance: Best practices and guide. Mirantis | — | Solo web |
| Referencia exclusiva del PDF | TechTarget. (8 de febrero de 2024). AI governance best practices and challenges | — | Solo PDF, y devuelve HTTP 404 |
| Nombre del archivo de la guía | — | Canvas lo publica como MITPE_DT_M7 Reference Guide-1.pdf (con espacio y sufijo -1) |
Renombrado a la convención de esta wiki |
Erratas detectadas en la fuente
Documentadas en detalle en M7 Referencias. Las que más afectan al estudio:
- Citas sin referencia. El cuerpo del contenido cita a Martinez (2025) —las cifras de sanciones de HIPAA—, Bevan et al. (2024), Van Huizen (2025), Informatica (2024) y Shorenstein Center (2023). Ninguna de las cinco aparece en la lista de referencias de la web ni en la del PDF. Las sanciones de HIPAA quedan, por tanto, sin fuente verificable.
- "HIPPA" por "HIPAA" en el encabezado del segundo caso de uso empresarial del capítulo 3.
- Texto duplicado en el capítulo 4: "no solo qué hace un sistema de IA, sino también por quépor qué y cómo lo hace".
- "FAIRLY IA" / "FAIRLY AI": el cuerpo del texto traduce el nombre propio de la empresa; la referencia bibliográfica usa la forma correcta, FAIRLY AI.
- NIST citado como "s. f." en el capítulo 3, cuando la propia lista de referencias lo fecha en 2023.
- Atribuciones dudosas. El ejemplo de detección de fraude en sandbox se atribuye a The Hacker News (2025), artículo que trata sobre agentes de IA con permisos de tipo root; y el ejemplo del recomendador de comercio electrónico a Chan et al. (2024), que es el paper de arXiv Visibility into AI agents. Ninguno de los dos desarrolla el caso que ilustra.
- "En el módulo7" sin espacio, en la página de objetivos de aprendizaje.
Apuntes elaborados el 23 de agosto de 2026 a partir del contenido del Módulo 7 del curso. Ver M7 Referencias para el listado completo con URL verificadas.
13. Material complementario de las sesiones en directo
Dos cohortes impartieron este módulo antes de que se publicara, y su material añade cosas que el módulo no desarrolla:
| Fuente | Qué aporta |
|---|---|
| Camila Mohr, semana 7 | Cifras sancionadoras concretas (Meta reservó 3.000 M$ por RGPD; Anthem pagó 16 M$ por HIPAA tras una filtración de 79 millones de personas), listas de verificación de cumplimiento por regulación, y una tabla comparada de RGPD / HIPAA / CCPA por ámbito, responsable de privacidad y plazo de notificación. Más el modelo ADKAR aplicado a la adopción, y los casos de Mayo Clinic (trazabilidad inmutable, auditoría automática y documentación centralizada) y Apple Card (sesgo crediticio sin auditoría de equidad previa) |
| Dante Téllez, semana 7 | El Reglamento de IA de la UE y las obligaciones del anexo III; el aviso de que sin ley federal en EE. UU., los estados escriben las reglas — y que un filtro de currículums es el ejemplo de manual; el umbral práctico para fiarse de un LLM como juez (correlación ≥ 0,7 con puntuaciones humanas); los cinco peldaños de autonomía (sugerir → redactar → aprobar y actuar → actuar y avisar → actuar solo); y los cinco artefactos de documentación, con la advertencia de que no puedes registrar hacia atrás |
| Ezequiel Astrada, semana 7 | El marco de guardarraíles en cuatro componentes —checker, corrector, rail y guard— y sus seis tipos |
Y un material externo que complementa el módulo: el OWASP Top 10 para Aplicaciones Agénticas 2026, repartido en la semana 4 de Sandra Ortiz.
Enlaces entrantes
- Acuerdo de asociación comercial (BAA)Concepto
- Análisis de brechasConcepto
- Auditoría de sesgoConcepto
- Auditoría simuladaConcepto
- Canal de pruebasConcepto
- Caso extremoConcepto
- CCPAConcepto
- Cuadrantes de riesgo y velocidadConcepto
- Curso IA Agéntica (MOC)Índice
- Derechos del titular de los datosConcepto
- DoNotPayCaso
- Entidad cubierta (HIPAA)Concepto
- FAIRLY AICaso
- GDPRConcepto
- GobernanzaConcepto
- HIPAAConcepto
- Human-in-the-loopConcepto
- Información médica confidencial (PHI)Concepto
- Inyección de promptConcepto
- ISO-IEC 42001Concepto
- Ley de IA de la UEConcepto
- LLM como juezConcepto
- M7 ReferenciasReferencias
- M8 Ética y proyecto finalMódulo
- Mayo ClinicCaso
- Minimización de datosConcepto
- OH Camila MohrSesión
- OH Daniel GarroteSesión
- OH Dante TellezSesión
- OH Sara ArtigasSesión
- Orientacion del cursoSesión
- Partnership on AICaso
- Pruebas A-BConcepto
- Pruebas adversariasConcepto
- Riesgo de cumplimientoConcepto
- Riesgo operativoConcepto
- SandboxingConcepto
- Sesiones en directoReferencias
- Socio comercial (HIPAA)Concepto
- Tarjeta del modeloConcepto
- Verificaciones de seguridadConcepto