Office Hours — Sara Artigas
⭐ Cohorte propia (sección Sara Artigas (OE)). Siete sesiones celebradas de ocho; la última cae el 1 de septiembre de 2026, el mismo día que vence el proyecto final. Enlaces a grabaciones, diapositivas y transcripciones en Sesiones en directo › Office Hour con Sara Artigas.
La plantilla de sesión
| Bloque | Función |
|---|---|
| IA en el radar | Noticias del mes con lectura ejecutiva. Es la parte más perecedera y la más actual |
| Mitos vs. realidad | Un mito del módulo, desmontado |
| Tema central | El contenido propio de la sesión |
| Microcaso | Un caso real de empresa, con pregunta de análisis y aprendizaje aplicable |
| Dilema ejecutivo | Cuatro opciones a debatir. Nunca hay una única respuesta correcta |
| Conexión con el capstone | El avance semanal del informe final |
Índice de sesiones
| Sem. | Título | Módulo | Microcaso |
|---|---|---|---|
| 1 | ¿Qué es la IA? De lo básico a lo actual | M1 | Air Canada |
| 2 | Del prompt al agente: cómo construir con IA | M2 | Hitachi + GitHub Copilot |
| 3 | Arquitectura de agentes, cómo conectar IA | M3 | Reuters + servidor MCP |
| 4 | Riesgos en acción, controles y defensas | M4 | Instrucciones ocultas en la web (Google) |
| 5 | ¿Dónde desplegar agentes y hasta dónde darles autonomía? | M5 | One New Zealand · Danone |
| 6 | De pilotos prometedores a agentes preparados para escalar | M6 | Agente clínico de eventos adversos |
| 7 | Integrar la IA con éxito: nuevas reglas para una nueva tecnología | M7 | OpenClaw / MITRE ATLAS |
| 8 | Pendiente — 01/09/2026 | M8 | — |
Sesión 1 — ¿Qué es la IA? De lo básico a lo actual
14/07/2026 · Módulo 1
IA en el radar
Dos cronologías propias, cotejadas contra documentación oficial de los proveedores en julio de 2026.
GenAI, 2010–2026, en cinco tramos: interfaz conversacional (2010–2016, la voz como interfaz cotidiana: Siri, Alexa, Assistant, Cortana); modelos fundacionales (2018–2020: BERT, T5, la serie GPT, Megatron-LM); GenAI accesible (2021–2022, el usuario masivo entra: Codex, DALL·E, InstructGPT, GPT-3.5, LaMDA, PaLM, Stable Diffusion, Midjourney); adopción empresarial (2023–2024: GPT-4 y 4o, Claude 1 a 3.5, Bard y Gemini, Llama, Copilot, watsonx); y razonamiento y operación (2025–2026: familia GPT-5, Claude 4, Gemini 2.5, Llama 4, Grok 3-4, Granite 4.0, Qwen 3, DeepSeek-R1).
Agentes de IA, 2021–2026, también en cinco tramos: LLM más herramientas (Codex, LangChain, Zapier y n8n, RPA con chatbots); agentes experimentales (2023, con planificación, memoria y uso real de herramientas: function calling, Assistants, Bedrock Agents, Copilot Studio, AutoGPT y BabyAGI); copilotos con acción (2024: Artifacts y uso del computador, Vertex AI Agent Builder, agentes autónomos de Microsoft, lanzamiento de Agentforce); plataformas agénticas (2025: Responses API y Agents SDK, ADK y Agentspace, MCP y flujos de agente, AgentCore, watsonx Orchestrate); y operación y gobernanza (2026: AgentOps, Agent 365 y observabilidad, capa de producción de AgentCore).
Se cita a Daron Acemoglu, economista del MIT y premio Nobel de 2024: hoy los agentes se promocionan como sustitutos de personas cuando deberían optimizarse para ampliar capacidades humanas, y no hacerlo es una estrategia perdedora (MIT Technology Review, 29/06/2026).
Mito 1 — «Implementar IA es tan simple como activar una herramienta»
La realidad exige diseño, medición y control sobre seis frentes: caso de uso, datos, flujo de trabajo, seguridad, métricas y gobierno. La secuencia recomendada tiene tres tiempos: empezar acotado (tareas repetitivas, de bajo riesgo y alto volumen), medir resultados (tiempo, calidad, adopción, errores, satisfacción) y escalar con control (datos, permisos, flujos, trazabilidad y supervisión). El error de fondo es confundir acceso con adopción.
Tema central — Qué es la IA
Por qué explotó ahora, y no antes: convergen tres capacidades, no un solo avance. Datos (volumen, variedad y velocidad), algoritmos (modelos que transforman datos en predicción, lenguaje, visión o decisión asistida) y computación (GPU, nube y costes operativos asumibles para experimentar y escalar). La implicación que subraya: la IA es una capacidad organizacional, no solo software.
La ruta conceptual de la sesión, que ordena términos que el curso usa a veces indistintamente:
IA → Machine learning → Redes neuronales → Deep learning → Transformadores → Modelos fundacionales → LLM / IA generativa
Las ramas de la IA, como mapa de verbos: razonar (sistemas expertos), aprender (ML), percibir (Visión artificial), comunicar (NLP y reconocimiento de voz), optimizar (computación evolutiva e inteligencia de enjambres) y actuar (robótica). Una solución real combina varias: un agente de voz es reconocimiento de voz + NLP/LLM + reglas + ML + APIs.
De generativa a agéntica, en cinco escalones: genera (contenido) → responde (chatbots) → asiste (copilotos) → planifica y ejecuta (agentes) → coordina (sistemas multiagente). Y la distinción corta: el chatbot responde en una conversación, el copiloto ayuda dentro de una tarea, el agente persigue un objetivo y ejecuta pasos.
Tipos por alcance: IA estrecha (ANI, la que existe hoy), IA general (AGI, teórica) y superinteligencia (ASI, hipotética). El apunte que importa: la IA empresarial sigue siendo estrecha aunque sea generativa o agéntica.
Microcaso — Air Canada
Los fallos de implementación: respuesta contradictoria con la política oficial, ausencia de validación para información sensible, escalamiento débil ante excepciones y —el de fondo— tratar una responsabilidad organizacional como un problema técnico. Qué habría cambiado: limitar las respuestas sobre políticas a fuentes verificadas, una ruta clara hacia una persona en casos excepcionales, registrar prompts, respuestas y decisiones para auditoría, y medir exactitud, reclamaciones y retrabajo, no solo tiempo de respuesta.
La pregunta de análisis está bien planteada: ¿el problema fue usar un chatbot, o desplegarlo sin asegurar exactitud, supervisión y responsabilidad?
Dilema ejecutivo
Presupuesto para un único piloto de 90 días: ¿dónde empezar? (A) redacción y documentación, (B) búsqueda de información interna, (C) análisis y apoyo a decisiones, (D) automatización de agentes.
Capstone — semana 1
Definir el contexto y elegir por dónde empezar: sector y tipo de negocio, departamento o proceso, fricción actual (tiempo excesivo, errores, información dispersa, trabajo manual, baja trazabilidad) y primer caso candidato —acotado, frecuente, observable y medible—. Y clasificar la capacidad necesaria: GenAI si es redactar, resumir, analizar, buscar o generar contenido; IA agéntica solo si hay que ejecutar pasos, usar herramientas o coordinar un flujo.
Sesión 2 — Del prompt al agente: cómo construir con IA
21/07/2026 · Módulo 2
IA en el radar
Dos noticias sobre empleo. La primera, de The Batch: la IA transformará el trabajo pero no provocará un apocalipsis laboral, y la dificultad principal será gestionar la transición, no el volumen de destrucción. La segunda, del economista del MIT Frank Nagle: sustituir puestos junior por IA debilita la futura base de talento. Los perfiles junior están adoptando muy rápido las nuevas formas de trabajo y pueden ser una capacidad estratégica en producción, prototipado y automatización; la IA acelera prototipos y mejora código, pero las personas sostienen arquitectura, comprensión del usuario, revisión y validación.
La pregunta que abre: ¿la organización usa la IA para reducir puestos o para rediseñar cómo trabajan y aprenden las personas?
Tema central — Cuatro niveles de trabajo con IA
La escalera que da título a la sesión, y probablemente el marco más reutilizable de toda la serie:
| Nivel | Disciplina | Pregunta | Qué se añade | Resultado |
|---|---|---|---|---|
| 1 | Ingeniería de prompts | ¿Qué quiero que haga la IA? | Objetivo, restricciones y formato | Borrador rápido, útil pero variable |
| 2 | Ingeniería de contexto | ¿Qué necesita saber para hacerlo bien? | Plantillas, criterios, definiciones, datos históricos, memoria | Informe más preciso y alineado |
| 3 | Diseño de flujo de trabajo | ¿Qué pasos debe seguir? | Pasos, validaciones y revisión: recopilar → validar → analizar → redactar → revisar → ajustar → regenerar → aprobar | Informe consistente y reproducible |
| 4 | Diseño de sistemas agénticos | ¿Qué puede decidir y ejecutar? | Planificación, herramientas, límites, permisos y supervisión | Informe autónomo, actualizado y supervisado |
A mayor autonomía, mayor necesidad de validación, permisos y supervisión.
Mapa de plataformas
Cinco categorías con su función y su precaución explícita:
| Categoría | Ejemplo | Para qué | Precaución |
|---|---|---|---|
| Ejecución local | Ollama | Privacidad, pruebas controladas, menos dependencia de la nube | Exige recursos propios; cuidar exposición y permisos |
| Construcción de agentes | LangChain | Aplicaciones y agentes con lógica propia | Capacidad técnica, testing, control de dependencias |
| Coordinación multiagente | CrewAI | Especialistas, revisión cruzada, trabajo distribuido | Añade complejidad si el problema es simple |
| Flujos e integración | n8n | Automatización low-code, integración con sistemas y APIs | La lógica crece rápido: documentar, versionar, gobernar |
| Desarrollo asistido | Codex | Vibe coding, prototipos, desarrollo con revisión humana | Todo código generado debe probarse antes de usarse |
El ecosistema ampliado se ordena en cuatro familias, de mayor control técnico a mayor gobierno empresarial: frameworks y runtimes (LangGraph, LlamaIndex, OpenAI Agents SDK, Google ADK, Microsoft Agent Framework, Kiro); desarrollo asistido (GitHub Copilot, Cursor, Claude Code, Codex, Gemini CLI, Replit Agent); automatización low-code (Power Automate, UiPath, Workato, Pipedream, Make, Zapier); y plataformas empresariales (Copilot Studio, Vertex AI Agent Builder, Bedrock AgentCore, Agentforce). Con su aviso correspondiente: la facilidad de uso del low-code puede generar IA en la sombra si no hay gobernanza ni documentación.
Vibe coding, SDD y harness engineering
El Vibe coding se descompone en seis pasos —idea, prompt, código, prueba, ajuste, versión— y se le reconoce lo que aporta: reduce el tiempo entre una idea y un resultado observable, y funciona bien para maquetas, pruebas de concepto, páginas de aterrizaje y validación inicial. Y su límite: un prototipo que parece funcional no demuestra que sea seguro, correcto ni mantenible. La sesión propone un semáforo: a mayor impacto y riesgo, menos improvisación y más controles.
El desarrollo dirigido por especificación convierte una intención en una especificación verificable antes de generar código. Define el problema y el usuario, el alcance y las exclusiones, los requisitos funcionales, los datos e integraciones, y los criterios de aceptación y pruebas. Su ciclo tiene seis pasos —intención, especificación, plan y tareas, implementación, pruebas, revisión— y es iterativo: la especificación evoluciona cuando aparece nueva evidencia. Aporta alineación (negocio, tecnología y agentes comparten una definición explícita del resultado esperado), trazabilidad (cada requisito se conecta con tareas, decisiones, código y pruebas) y control (la solución se acepta cuando existe evidencia de que cumple los criterios definidos).
Ocho prácticas de control, repartidas en cuatro momentos: antes de construir (criterios de aceptación, BDD), durante la implementación (TDD, human-in-the-loop), antes de integrar (revisión de código, control de versiones) y en producción (SSDLC/DevSecOps, evaluación continua).
Microcaso — Hitachi + GitHub Copilot
Por qué funcionó: la IA recibió contexto técnico y funcional, trabajó sobre una base de código existente y el resultado se midió. El aprendizaje aplicable —especificar antes de generar, integrar la IA en el flujo existente, mantener pruebas y revisión humana— es el mismo argumento del webinar de facultad sobre desarrollo dirigido por especificación.
Capstone — semana 2
Elegir la tecnología según el caso, no según la moda: una matriz con dos o tres alternativas, criterios y decisión documentada. Los ejes de comparación son código cerrado (rapidez, soporte, capacidades frontera), open-weight o local (privacidad, control, personalización) y no-code/low-code frente a desarrollo propio. Criterios: complejidad y autonomía requerida, datos, privacidad, integración, seguridad, coste, latencia, escalabilidad y dependencia.
Sesión 3 — Arquitectura de agentes, cómo conectar IA
28/07/2026 · Módulo 3
IA en el radar — «Dale una computadora a tu IA»
Sobre la guía de Ethan Mollick del 23/07/2026. El salto actual no está en conversar mejor, sino en sistemas agénticos que combinan modelo, herramientas y entorno de ejecución para hacer trabajo real. Tres consecuencias:
- Cambia la unidad de trabajo. Ya no se intercambian prompts: se delega una tarea completa y el agente planifica, investiga y devuelve un resultado revisable.
- El valor está en el sistema completo. La calidad depende del modelo, pero también de las herramientas, aplicaciones, archivos, datos y conectores disponibles.
- Los permisos definen el riesgo. Un agente conectado puede leer, escribir, enviar, modificar o ejecutar; cada permiso amplía la capacidad y también la exposición.
La escala de permisos, de menor a mayor riesgo: leer (consulta) → crear (borradores) → modificar (con aprobación) → ejecutar (autónomo).
Mollick distingue además dos categorías de producto: los que funcionan como un trabajador de proyectos con IA (ChatGPT Work, Claude Cowork), donde describes el resultado y el sistema se ocupa de los pasos y oculta la maquinaria; y los que son una IA con acceso al computador de un desarrollador (Codex, Claude Code), que abren un proyecto completo, editan muchos archivos, ejecutan programas, prueban su trabajo y muestran exactamente qué cambió.
Tema central — La arquitectura, por capas
Cada pieza tiene un papel y no es intercambiable:
| Pieza | Papel |
|---|---|
| LLM | Comprende |
| RAG | Aporta conocimiento |
| API y MCP | Permiten acceder a herramientas |
| Flujo de trabajo | Coordina |
| Sistemas empresariales | Ejecutan y almacenan |
| Guardrails | Mantienen el control |
Una arquitectura de agentes bien diseñada comienza por el flujo de negocio, no por la herramienta. La tecnología es el resultado de esas decisiones, no el punto de partida.
Mito 3 — «Conectar un agente con una API significa que está integrado»
No: integrar exige definir flujo, datos, permisos, APIs, MCP, supervisión y métricas. No es plug and play.
Microcaso — Reuters + servidor MCP
El aprendizaje: exponer las fuentes críticas mediante interfaces seguras y estandarizadas, priorizar datos confiables antes de aumentar la autonomía del agente, y diseñar el flujo completo, no solo la conexión técnica.
Capstone — semana 3
Costes de integración y operación, no solo precio del modelo. Un mini presupuesto con tres escenarios —conservador, base y alto— separando tres bloques: modelo (tokens de entrada y salida, latencia y razonamiento requerido), integración (conectores, MCP, middleware, preparación de datos, pruebas y QA) y operación (infraestructura, registros, monitorización, soporte). Con coste por tarea, usuario o proceso, y riesgos de dependencia, escalado y uso no controlado.
Sesión 4 — Riesgos en acción, controles y defensas
04/08/2026 · Módulo 4
La sesión más densa de la serie, y la que más se aleja del material del módulo.
IA en el radar — El incidente OpenAI / Hugging Face
Las tres decisiones que cambian el riesgo: contener de verdad (aislar redes, limitar la salida, separar el entorno de evaluación de los datos y sistemas reales), privilegios mínimos (credenciales efímeras y acotadas, evitar cuentas compartidas y accesos amplios por defecto) y observar la trayectoria (detectar acciones inusuales, limitar la duración, disponer de una detención inmediata).
El riesgo depende de los caminos que puede descubrir un agente cuando combina objetivo, herramientas, credenciales y tiempo de ejecución. Por eso la seguridad debe diseñarse para contener trayectorias imprevistas, no solo para validar una respuesta final.
Los seis riesgos en acción
Cada uno desglosado en cuatro pasos, distinguiendo qué aporta la IA generativa y qué añade la agéntica:
- Suplantación con deepfakes. Perfil de la víctima → identidad sintética → urgencia y confianza → acción inducida. Una llamada con voz clonada del director financiero pide reprogramar un pago antes del cierre.
- Phishing y fraude hiperpersonalizado. Huella disponible → mensaje adaptado → conversación persuasiva → acceso o fraude. Una factura de un proveedor real y una fecha de pago conocida vuelven creíble un correo que redirige la transferencia.
- IA para acelerar ataques técnicos. Reconocimiento → diseño → prueba y ajuste → intrusión. El matiz honesto: no es un atacante autónomo perfecto, es más velocidad, cobertura e iteración en cada fase; no reemplaza la pericia del atacante.
- Inyección de prompt indirecta. Contenido externo → instrucción maliciosa → interpretación desviada → dato o acción. Una factura incluye texto oculto que pide ignorar la tarea y adjuntar una lista de clientes.
- Objetivo secuestrado y abuso de herramientas. Objetivo legítimo → subtarea inducida → plan reorientado → herramienta fuera de alcance. Un asistente de compras pasa de resumir una factura a consultar y enviar datos del CRM.
- Abuso de identidad y privilegios. Identidad del agente → permisos acumulados → solicitud desviada → sistema real afectado. El impacto no lo define la respuesta del modelo, sino el alcance de las credenciales con las que puede operar.
Los seis controles
| # | Control | En qué consiste |
|---|---|---|
| 0 | Verificar antes de actuar | El agente convierte una respuesta en decisión verificable: contrasta fuentes y datos, aplica reglas de negocio fuera del modelo con umbrales explícitos, y escala si falta evidencia o el impacto es alto |
| 1 | Identidad | Verificación out-of-band para pagos, cambios de cuenta y solicitudes de datos; MFA resistente a phishing; doble autorización si la acción es financiera, irreversible o externa |
| 2 | Contenido | El agente debe procesar contenido externo sin obedecerlo. Etiquetar y separar lo no confiable, restringir fuentes, tratar las respuestas de herramientas como datos, no como órdenes |
| 3 | Herramientas | Autorización por acción, alcance y destinatario, fuera del modelo, en la capa que ejecuta |
| 4 | Privilegios | Una identidad por agente, tarea o sesión; scopes por recurso y acción; tokens de corta duración, revocables y sin credenciales compartidas |
| 5 | Contención | Sandbox, red segmentada, salida por proxy con lista de permitidos, límites de tiempo, coste, reintentos y recursos |
| 6 | Ejecución | Observar (registrar agente, usuario, herramienta, parámetros, autorización y resultado) → detectar (destino nuevo, salto de privilegio, frecuencia inusual) → interrumpir (límite de tasa, detener sesión, revocar credencial) |
La gradación de la autorización de herramientas resume bien el criterio:
| Acción propuesta | Barrera activa | Decisión |
|---|---|---|
| Consultar inventario | Token de solo lectura, alcance acotado | Automática |
| Modificar un registro interno | Validación de esquema, ámbito del usuario, trazabilidad | Reglas + límite |
| Enviar correo, pago o cambio en producción | Confirmación explícita | Aprobación humana |
Y un ejemplo de trayectoria que activa un corte: tarea solicitada (responder estado de pedido) → consulta prevista (CRM, pedido 1042) → señal de anomalía (intenta exportación masiva) → interrupción (cancela sesión y revoca token).
Validación adversarial
La sesión insiste en que un control solo sirve cuando demuestra que bloquea, limita o escala un escenario concreto, y propone probarlo como lo haría un adversario antes de producción: simular una solicitud de pago por voz, incluir una instrucción oculta en un PDF, introducir el ataque por un canal externo de audio o vídeo, solicitar acceso fuera de la tarea, intentar salida a Internet o forzar reintentos.
Microcaso — Instrucciones ocultas en la web
La idea de cierre de la sesión es la que mejor resume el módulo 4 desde la práctica: un agente debe gestionarse como una identidad digital con capacidad de operar, bajo controles de confianza cero.
Capstone — semana 4
Plan de seguridad: matriz de riesgos prioritarios, controles preventivos, detección y respuesta, responsable y protocolo de escalamiento.
Sesión 5 — ¿Dónde desplegar agentes y hasta dónde darles autonomía?
11/08/2026 · Módulo 5
IA en el radar — Dos recursos del MIT
MIT AI Risk Initiative — infraestructura académica abierta con un repositorio vivo de riesgos, incidentes reales, prioridades de expertos y marcos de gobernanza, más el AI Risk Navigator organizado en siete dominios. Sirve para fundamentar el registro inicial de riesgos de un agente con evidencia externa: buscar incidentes reales similares al caso de uso y cruzar riesgo, actor responsable, daño potencial y marco regulatorio.
MIT CISR — centro de investigación sobre valor empresarial de la tecnología, modelo operativo y transformación digital. Sirve para pasar del caso tecnológico al diseño de capacidades, gobierno, valor y cambio organizacional: construir el argumento de negocio, analizar qué capacidades digitales deben madurar y diseñar la transición del proceso actual al proceso con agentes.
Tema central — Tres lentes, no una receta
| Lente | Pregunta | Qué aporta |
|---|---|---|
| Contexto de adopción | ¿Dónde estamos en el recorrido? | Nos dice cómo avanzar |
| Diagnóstico de preparación | ¿Qué capacidades reales tenemos? | Nos dice qué tan preparados estamos |
| Decisión de despliegue | ¿Qué agente y qué autonomía? | Nos dice qué podemos sostener |
La fórmula metodológica que propone, y que convierte un modelo abstracto en un diagnóstico utilizable:
capacidad → pregunta → evidencia → brecha → decisión de despliegue
La clave está en el tercer paso: la pregunta debe formularse sobre un hecho observable, no sobre una percepción, y buscar artefactos concretos —políticas, APIs, responsables, flujos, métricas, registros—.
El modelo de madurez de Microsoft
Cinco pilares: estrategia y experiencia de IA, estrategia de negocio y procesos, gobernanza y seguridad, tecnología y datos, y organización y cultura. El Agent Readiness Assessment puntúa cada respuesta de 1 a 5 y agrupa el resultado en Strategy Readiness y Execution Readiness.
Los cinco estados: Exploring (<3, conciencia inicial), Planning (3–3,5, dirección emergente), Implementing (3,5–4, acción en marcha), Scaling (4–4,5, adopción consistente) y Realizing (4,5+, impacto y momento).
Microcaso — One New Zealand y Danone
One New Zealand ya usa agentes para asistir a clientes y empleados, ejecutar solicitudes y apoyar decisiones operativas, y plantea agentes de mayor autonomía —en marketing, capaces de crear y adaptar campañas dentro de objetivos y guardarraíles definidos por personas—. La progresión que ilustra: asistencia → ejecución → recomendación → mayor autonomía bajo guardarraíles. Se cita también el caso de Danone con agentes autónomos de Microsoft.
Capstone — semana 5
Gestión del cambio y capacitación: mapa de interesados, qué tarea cambia, desaparece o se redistribuye, qué queda en manos humanas, qué nueva responsabilidad aparece, plan de formación (uso básico, cómo revisar respuestas y detectar errores, protocolos de escalamiento) y comunicación sin promesas exageradas ni miedo innecesario, con canal de realimentación desde el piloto.
Sesión 6 — De pilotos prometedores a agentes preparados para escalar
18/08/2026 · Módulo 6
IA en el radar — Los riesgos según 272 expertos
Un estudio del MIT en el que 272 expertos internacionales evaluaron 24 riesgos de IA por probabilidad, severidad, vulnerabilidad y responsabilidad, con horizonte 2025–2030. Los cinco más severos: capacidades peligrosas, dinámicas competitivas, ciberataques y daños masivos, centralización del poder y distribución desigual de beneficios, e información falsa o engañosa.
Lo que importa para la práctica es el segundo hallazgo: la competencia empuja a desplegar antes de estar preparado, por tres vías —urgencia sobre evidencia (la velocidad se impone a las pruebas de preparación), autonomía sobre capacidad real (las expectativas crecen más rápido que la fiabilidad) y escala sobre adopción (la presión por mostrar resultados deja atrás a procesos y personas)—.
¿Qué representa hoy un riesgo mayor: avanzar demasiado lento, o escalar un agente que todavía no está preparado?
Mito 6 — «Cuanta más autonomía tenga el agente, mayor será el valor»
Un piloto exitoso demuestra viabilidad técnica. La autonomía sostenible depende además del impacto, la reversibilidad, la observabilidad y la capacidad de intervención.
Tema central — Path to Scale 2.0 (Deloitte)
Seis capacidades interdependientes: si una queda rezagada, el piloto puede funcionar y aun así no sostenerse en producción.
| # | Fundamento | Pregunta | De → a |
|---|---|---|---|
| 1 | Liderazgo y responsabilidad | ¿Quién responde? | De buscar casos de uso a asumir resultados |
| 2 | Estrategia y valor | ¿Qué resultado mueve? | De pilotos dispersos a procesos que mueven la cuenta de resultados |
| 3 | IA confiable | ¿Qué controles lo hacen operable? | De una casilla de cumplimiento a una licencia para operar |
| 4 | Modelo operativo | ¿Cómo colaboran personas y agentes? | Tres niveles, ver abajo |
| 5 | Tecnología y datos | ¿Puede integrarse y sostenerse? | Decisiones tecnológicas deliberadas |
| 6 | Preparación para el cambio | ¿Está preparada la organización? | El cambio como capacidad permanente |
En estrategia y valor, el criterio concreto es priorizar entre tres y cinco apuestas empresariales, vincularlas a ingresos, costes, calidad o tiempo de ciclo, rediseñar procesos de extremo a extremo y probar el retorno antes de ampliar.
Los tres niveles del modelo operativo: personas con herramientas (la persona controla la tarea y usa IA como apoyo) → equipos humano-agente (el agente asume responsabilidades definidas y colabora) → flujos agénticos (los agentes ejecutan procesos completos con supervisión mínima y límites explícitos). La pregunta que hay que saber responder en cada nivel: quién supervisa al agente, quién ajusta sus límites y quién responde por el resultado.
KPI por fundamento
Un catálogo de indicadores por fundamento:
| Fundamento | KPI |
|---|---|
| Liderazgo y responsabilidad | Proyectos con responsable ejecutivo asignado · tiempo medio de decisión · acciones de gobernanza cerradas en plazo |
| Estrategia y valor | Retorno realizado frente al previsto · coste por resultado exitoso · mejora del tiempo de ciclo |
| IA confiable | Incidentes críticos por cada 1.000 ejecuciones · decisiones con trazabilidad completa · tasa de intervención o anulación humana |
| Modelo operativo | Tasa de finalización de extremo a extremo · tasa de derivación a humanos · adopción activa dentro del flujo |
| Tecnología y datos | Disponibilidad · latencia P95 · porcentaje de ejecuciones con datos completos y válidos |
| Preparación para el cambio | Tasa de adopción de usuarios objetivo · porcentaje de usuarios competentes · nivel de confianza o aceptación |
Un agente puede mostrar buena precisión y seguir sin estar preparado para escalar si carece de valor, adopción, integración o responsabilidades definidas.
Monitorización continua — NIST AI 800-4
La producción no es el final de la evaluación. Seis preguntas en ciclo: rendimiento y funcionalidad (¿sigue haciendo bien la tarea?), infraestructura y operación (¿mantiene disponibilidad, latencia y estabilidad?), supervisión humana (¿es comprensible, útil y supervisable?), seguridad (¿resiste ataques y abuso?), cumplimiento y trazabilidad, e impactos a escala (¿genera consecuencias imprevistas?).
Microcaso — Agente clínico de eventos adversos
Los cinco trabajos que hacen viable el agente: preparar el entorno (datos dinámicos y bien definidos, canalizaciones estables, validar tanto el resultado como las acciones y herramientas usadas), demostrar y observar (estimar un rango de costes para flujos variables, monitorización adaptativa, registros que permitan reconstruir cada paso) y gobernar la acción (políticas y límites, responsables ante errores e incidentes, revisión humana en decisiones relevantes).
Capstone — semana 6
Estrategia de escalado gatear–caminar–correr con puertas de decisión explícitas:
| Etapa | Contenido | Puerta |
|---|---|---|
| Gatear | Caso de uso y alcance limitado, línea base, responsable y KPI definidos, supervisión humana obligatoria | GO — cumple valor y controles |
| Caminar | Producción controlada en el flujo, monitorizar valor, adopción y riesgo, resolver excepciones e integración | HOLD — cerrar brechas antes de avanzar |
| Correr | Ampliar volumen y usuarios, estandarizar arquitectura y operación, aumentar autonomía según evidencia | STOP — pausar, revertir o rediseñar |
Para cada etapa hay que definir el alcance, la evidencia mínima, quién autoriza el paso y la condición que obliga a pausar o volver atrás.
Sesión 7 — Integrar la IA con éxito: nuevas reglas para una nueva tecnología
25/08/2026 · 89 min · Módulo 7
La sesión más densa de la serie, y la facilitadora lo advierte al empezar: «va a ser un poco tensa en el sentido de que hay mucha normativa». Su aporte principal no es explicar el módulo 7 —que ya cubre GDPR, CCPA e HIPAA— sino darle a esas normas un lugar dentro de un sistema, con una matriz propia de 40 filas construida esa misma semana con las normas y leyes más recientes.
Objetivos declarados: diferenciar gobernanza, compliance, gestión de riesgos y seguridad; interpretar y relacionar los marcos aplicables (ISO/IEC, NIST, OECD, OWASP, MITRE ATLAS, EU AI Act); aplicar una matriz integrada de referencias cruzadas para identificar brechas; evaluar riesgos específicos de la IA agéntica y definir controles proporcionales; y diseñar un enfoque operativo de gobernanza de agentes.
IA en el radar — Las cinco provocaciones del MIT CISR
Informe del MIT Center for Information Systems Research publicado el 1 de agosto de 2026 (Creating Value with AI: Five Provocative Propositions, Woerner). Cinco proposiciones sobre cómo crear valor empresarial con IA:
| # | Provocación | Lectura de la sesión |
|---|---|---|
| 1 | La confianza se construye en la infraestructura | La analogía es la de un edificio: la estructura tiene que ser robusta y duradera antes de meter dentro lo que sea |
| 2 | Hacen falta personas con experiencia suficiente | Son quienes cuestionan los resultados de la IA. Que la IA resuelva no justifica apartar al que tiene criterio |
| 3 | Los datos propios difíciles de replicar son el valor estratégico | Toda organización los tiene —cartera de clientes, know-how, costes de fabricación— y por eso no pueden acabar accesibles a cualquiera, ni expuestos por un agente |
| 4 | Nadie recordará cuántos agentes construiste | Lo que cuenta es cuántos llegaron a producción y escalaron de forma confiable |
| 5 | La IA atravesará una fase de decepción antes de generar valor | La facilitadora lo equipara al "valle de la muerte" de las startups: se cae antes de escalar, y se cae porque aparece lo que no se consideró al principio |
La pregunta que deja abierta: antes de desplegar un agente autónomo, ¿qué debería demostrar primero la organización — desempeño, cumplimiento, o que sus decisiones son trazables, supervisables y reversibles? Su respuesta: un poco de cada, y con un peso que depende del sector y de la fase. La reversibilidad reaparece como criterio de decisión: si lo que el agente puede provocar es irreversible, hay que pensárselo; si es revertible, quizá convenga seguir adelante.
Mito 7 — «Gobernanza de IA es lo mismo que compliance»
Falso, y la distinción es el eje de la sesión.
| Compliance | Gobernanza | |
|---|---|---|
| Qué busca | Que la organización cumpla sus obligaciones legales, regulatorias y normativas | Dirigir, supervisar y asignar responsabilidad |
| Preguntas típicas | ¿Cómo tratamos los datos personales? ¿Dónde se guardan? ¿Quién es el responsable del dato? ¿Cómo se respalda? | ¿Quién responde cuando un agente falla? ¿Quién aprueba el paso a producción? ¿Qué nivel de riesgo aceptamos? ¿Cómo detectamos una desviación? |
| Alcance | Un subconjunto | Roles y responsabilidades, políticas, riesgos y guardarraíles, testing, monitoreo, respuesta, evidencia, documentación y auditoría |
Cumplir la ley no implica tener gobernanza. Hay relación, pero no equivalencia.
Tema central — Gobernanza de IA en cuatro dominios y seis grupos de referencias
El esquema propio de la sesión organiza el control del uso responsable de la IA en grupos de referencias, cada uno con su función, sus normas clave y su aplicación práctica:
| # | Grupo | Función | Referencias clave |
|---|---|---|---|
| 1 | Principios y responsabilidad | Alinear la IA con valores, derechos, transparencia, responsabilidad y debida diligencia | OECD AI Principles 2024, OECD Due Diligence Guidance 2026, OECD Framework for Classification, Advancing Accountability in AI, Recomendación de la UNESCO sobre la Ética de la IA |
| 2 | Gobierno y sistemas de gestión | Transformar principios en un sistema operativo de gobierno y mejora continua | ISO/IEC 42001 (AI Management System, enfoque PDCA), 38507 (gobernanza), 5338 (ciclo de vida), 23894 (riesgo), 42005 (evaluación de impacto) |
| 3 | Datos, privacidad, confianza y calidad | Controlar datos, privacidad, calidad, robustez y confianza | ISO/IEC 27001, 27701, 5259-3/4/5 (calidad de datos), TR 24027 (sesgo), TR 24028 / 24029-1 (trustworthiness y robustez) |
| 4 | Riesgo, evaluación y assurance | Pasar de controles declarados a evidencia verificable | NIST AI RMF 1.0 (Govern-Map-Measure-Manage), AI 600-1 (perfil GenAI), AI 100-2 (ML adversario), recursos TEVV, SP 800-61 Rev. 3 e ISO/IEC TS 42119-2 |
| 5 | Seguridad de IA generativa y agéntica | Traducir amenazas reales en controles técnicos, red teaming y mitigaciones | OWASP GenAI LLM Top 10 2026, OWASP Top 10 for Agentic Applications 2026, Agentic AI Security Initiative, State of Agentic AI Security & Governance, MITRE ATLAS |
| 6 | Regulación y obligaciones | Traducir obligaciones jurídicas en controles, documentación, evidencia y responsables | EU AI Act, GDPR, Ley 21.719 (Chile), proyecto de ley chileno sobre sistemas de IA, normativa sectorial |
Frases-ancla de cada grupo, que son la síntesis más citable de la sesión:
- Primero se define qué significa "IA responsable" para la organización y qué decisiones no se delegan sin control.
- La gobernanza funciona cuando hay un sistema de gestión, no solo documentos o comités aislados.
- Un agente no puede ser confiable si sus datos, privacidad, calidad y robustez no están gobernados.
- Assurance significa poder demostrar, con evidencia, que el sistema opera dentro de límites aceptables.
- El riesgo agéntico crece con la autonomía, los permisos, las herramientas conectadas y la memoria persistente.
- Compliance no sustituye a la gobernanza, pero convierte obligaciones en controles y evidencia demostrable.
El proceso integrado, en siete pasos
Principios → Regulación → Sistema de gestión → Riesgo → Controles → Assurance → Operación
| Paso | Contenido |
|---|---|
| 1. Principios | Propósito, límites y criterios de IA responsable |
| 2. Regulación | Obligaciones, roles y evidencias exigibles |
| 3. Sistema de gestión | Políticas, owners, procesos y mejora continua |
| 4. Riesgo | Clasificación, impacto, tratamiento y tolerancia |
| 5. Controles | Seguridad, privacidad, safety y supervisión |
| 6. Assurance | Testing, TEVV, red teaming y evidencia |
| 7. Operación | Monitoreo, incidentes, cambios y revisión |
La tesis: no se elige un único marco, se construye un sistema integrado. Un mismo control puede servir a cumplimiento, gestión de riesgos, seguridad, auditoría y mejora continua. El resultado esperado es siempre el mismo objeto: inventario + clasificación + owner + controles + evidencia + seguimiento.
La matriz integrada de 40 filas
El entregable propio de la sesión: una matriz de referencias cruzadas —elaboración propia, actualizada a 2026— donde cada fila es un área temática con la pregunta que debe responder, sus referencias principales y complementarias, y la aplicación práctica en la organización. Las 40 áreas:
| # | Área | Pregunta que responde |
|---|---|---|
| 1 | Principios y propósito | ¿Qué entendemos por IA responsable, segura y confiable? |
| 2 | Gobierno corporativo de IA | ¿Quién decide y quién responde por la IA? |
| 3 | Sistema de gestión de IA | ¿Cómo institucionalizamos la gobernanza? |
| 4 | Modelo de madurez | ¿Qué tan preparada está la organización para gobernar y escalar IA? |
| 5 | Inventario de IA | ¿Qué IA utiliza realmente la organización? |
| 6 | Clasificación de riesgo | ¿Qué nivel y tipo de riesgo presenta cada sistema? |
| 7 | Evaluación de impacto | ¿Cómo puede afectar la IA a personas, organización o sociedad? |
| 8 | Ciclo de vida de IA | ¿Cómo gobernamos desde diseño o adquisición hasta retiro? |
| 9 | AI Security | ¿Cómo protegemos la IA frente a ataques y abuso? |
| 10 | IA generativa y LLM | ¿Qué riesgos específicos introducen los modelos generativos? |
| 11 | IA agéntica | ¿Qué cambia cuando la IA puede actuar autónomamente? |
| 12 | Prompt injection y manipulación contextual | ¿Cómo evitamos que instrucciones externas alteren el comportamiento esperado? |
| 13 | Seguridad de datos | ¿Qué información puede utilizar la IA y cómo la protegemos? |
| 14 | Privacidad | ¿Cómo protegemos datos personales tratados mediante IA? |
| 15 | Bias y discriminación | ¿Cómo identificar y controlar resultados injustos? |
| 16 | Robustez | ¿Cómo comprobamos la respuesta ante variaciones y ataques? |
| 17 | Transparencia | ¿Qué debemos comunicar sobre el sistema y su uso? |
| 18 | Explicabilidad | ¿Cuándo necesitamos entender o justificar una decisión? |
| 19 | Supervisión humana | ¿Cuándo debe intervenir una persona? (EU AI Act art. 14; NIST AI RMF MAP 3.5) |
| 20 | Documentación de modelos | ¿Qué debemos saber y conservar sobre cada modelo? (→ Tarjeta del modelo) |
| 21 | Documentación y gobernanza de datasets | ¿Qué debemos conocer y controlar sobre los datos utilizados? |
| 22 | Gestión de proveedores de IA | ¿Cómo seleccionamos y controlamos proveedores externos? |
| 23 | Modelos y componentes de terceros | ¿Qué riesgos asumimos cuando no controlamos el componente? |
| 24 | Shadow AI | ¿Qué IA se utiliza fuera de los canales autorizados? (→ IA en la sombra) |
| 25 | Auditoría algorítmica | ¿Cómo demostramos que gobierno y controles funcionan realmente? |
| 26 | Testing y evaluación | ¿Cómo comprobamos el sistema antes de autorizar su uso? |
| 27 | AI Red Teaming | ¿Cómo descubrimos vulnerabilidades antes que un atacante o usuario real? |
| 28 | Monitoreo continuo | ¿Cómo sabemos que el sistema sigue funcionando correctamente? |
| 29 | Gestión de incidentes | ¿Qué hacemos cuando una IA falla o produce daño? |
| 30 | Registro y reporte de incidentes | ¿Cómo aprendemos de fallos internos y externos? |
| 31 | Competencias | ¿Qué capacidades necesita cada rol relacionado con IA? |
| 32 | AI literacy y awareness | ¿Qué debe saber cualquier empleado que utilice IA? |
| 33 | Roles y capacidades de AI Security | ¿Quién protege técnicamente los sistemas de IA? |
| 34 | Directorios y alta dirección | ¿Qué debe decidir y supervisar la alta dirección? |
| 35 | Cultura, adopción y gobernanza adaptativa | ¿Cómo gobernamos sin bloquear la innovación? |
| 36 | Contexto de IA (Chile) | ¿Qué ocurre en el ecosistema nacional? (ILIA 2025, Política Nacional de IA) |
| 37 | Marco regulatorio (Chile) | ¿Qué obligaciones actuales y futuras debemos vigilar? (Ley 21.719) |
| 38 | Madurez y benchmark empresarial | ¿Dónde estamos y qué deberíamos desarrollar después? |
| 39 | Investigación y evidencia aplicada | ¿Qué debemos aprender de incidentes, nuevos riesgos y cambios tecnológicos? |
| 40 | Mejora continua | ¿Cómo mantenemos vigente el sistema de gobernanza? |
Microcaso — OpenClaw: cuando un agente se convierte en superficie de ataque
MITRE ATLAS investigó incidentes ocurridos entre enero y febrero de 2026 con OpenClaw, un agente que opera de forma autónoma —decide, usa herramientas y actúa en los sistemas del usuario sin supervisión continua— y los tradujo en tácticas, técnicas y mitigaciones.
| Contenido | |
|---|---|
| Qué ocurrió | Interfaces expuestas, skills de terceros, enlaces maliciosos e inyección de prompt indirecta |
| Ataques observados | Interfaces expuestas · poisoned skill · RCE de un solo clic · mando y control (C2) vía prompt injection |
| Cadena de riesgo | Contenido no confiable → invocación de herramientas → credenciales / configuración → ejecución o exfiltración |
| Por qué importa | El problema no está solo en el modelo: aparece cuando autonomía, permisos y herramientas se combinan sin límites claros |
La ecuación de la sesión:
Autonomía ↑ + privilegios ↑ + integraciones ↑ = superficie de ataque ↑
La respuesta debe ser controles ↑ + evidencia ↑ + supervisión ↑
De MITRE ATLAS a gobernanza operativa, en tres bloques:
| Preparar límites | Probar y evidenciar | Gobernar la respuesta |
|---|---|---|
| Inventario, owner y propósito del agente | Red teaming con técnicas de MITRE ATLAS | Aprobación humana para acciones críticas |
| Permisos mínimos por herramienta y por dato | Restringir la invocación de herramientas sobre datos no confiables | Kill switch, rollback y recuperación |
| Separar fuentes confiables de contenido externo | Telemetry logging, memory hardening y evidencia | Respuesta a incidentes y revisión de permisos |
El circuito que propone: riesgo → referencia ATLAS → control → evidencia → revisión.
Dilema ejecutivo — cuánta autonomía autorizar
Tras analizar incidentes como OpenClaw, la organización concluye que sus próximos agentes accederán a datos, usarán herramientas y ejecutarán acciones de distinto impacto. La dirección necesita una política corporativa antes de escalar. ¿Qué modelo de gobernanza aprobaría?
| Opción | |
|---|---|
| A | Aprobación central para cualquier acción autónoma. Todo agente que ejecute acciones pasa por un comité corporativo, sea cual sea su riesgo |
| B | Autonomía proporcional al riesgo y a la evidencia. Clasificar cada agente por impacto, datos, permisos y reversibilidad, asignar owner, y aumentar su autonomía solo cuando controles, testing y monitoreo demuestren que el riesgo es aceptable |
| C | Autonomía definida por cada área de negocio, que conoce mejor el proceso, con seguridad y compliance como funciones asesoras |
| D | Autonomía definida por criterios técnicos: seguridad autoriza según vulnerabilidades, permisos, resultados de red teaming y capacidad de contención |
La posición de la sesión, sin declararla respuesta única, es la B: la autonomía se gana con evidencia.
Capstone — semana 7 (Gobernanza y cumplimiento)
Objetivo del avance: formalizar cómo se tomará responsabilidad sobre el sistema de IA antes de escalarlo.
Pregunta clave: ¿qué debe quedar definido y evidenciado para confiar, auditar y escalar el agente?
Entregable: un checklist de gobernanza y cumplimiento con roles, controles, documentación y supervisión.
| 1. Marco aplicable | 2. Roles y decisión | 3. Evidencia auditable | 4. Supervisión |
|---|---|---|---|
| Regulaciones y políticas internas | Dueño del proceso y dueño técnico | Diseño, datos, prompts y versiones | Human-in-the-loop según riesgo |
| Privacidad, seguridad, PI y uso aceptable | Responsable de datos, seguridad y cumplimiento | Pruebas, validación y cambios | Límites de autonomía y permisos |
| Requisitos por sector o tipo de dato | Escalamiento para incidentes o decisiones sensibles | Logs, errores, excepciones y revisiones | Revisión periódica y criterios go/no-go |
Recomendación literal: documentar, para cada agente, el marco aplicable, el owner, los controles mínimos, la evidencia requerida, el criterio de revisión y el responsable de aprobar cambios.
Idea de cierre
Gobernar agentes significa integrar regulación, riesgo, seguridad y evidencia para ampliar la autonomía de forma progresiva, verificable y responsable.
Y los tres cierres operativos: la autonomía se gana con evidencia · la matriz convierte referencias en decisiones, responsables y acciones · producir exige observabilidad — límites, logs, monitoreo, supervisión y capacidad real de intervenir cuando el riesgo se materializa.
Sesión 8 — pendiente
01/09/2026 · 14:00 UTC · Módulo 8 — la última de la serie, el mismo día que vence la entrega del proyecto final (16:29 UTC). Aún no publicada en el campus: enlace de Zoom.
Sesión de orientación — 07/07/2026
Contenido administrativo: presentación de MIT Professional Education, el profesorado, la facilitadora, el programa, las sesiones en línea, la plataforma, el certificado de finalización y turno de preguntas. Se abre con una idea sobre aprendizaje permanente que vale la pena retener: aprender implica desaprender, y conviene enfocar el programa «como si bebieras de la boca de incendios del MIT».
Recursos citados que no están en la bibliografía de los módulos
Selección de lo más aprovechable, por sesión.
Enlaces
Sesiones en directo · Webinars de facultad · Curso IA Agéntica (MOC) · M7 Gobernanza, cumplimiento y pruebas de agentes · M8 Ética y proyecto final
Enlaces entrantes
- Curso IA Agéntica (MOC)Índice
- Desarrollo dirigido por especificación (SDD)Concepto
- Harness engineeringConcepto
- OH Camila MohrSesión
- OH Daniel GarroteSesión
- OH Dante TellezSesión
- OH Ezequiel AstradaSesión
- OH Miguel Angel SanchezSesión
- OH Pedro JuarezSesión
- OH Renzo CasapiaSesión
- OH Sandra OrtizSesión
- Orientacion del cursoSesión
- Sesiones en directoReferencias
- Visión artificialConcepto