Módulo 4 — Ciberseguridad: escenarios clásicos, riesgos de agentes, información falsa e impacto sistémico

---

Índice

1. Enfoque y objetivos de aprendizaje
2. Índice oficial del módulo y tareas
3. Capítulo 1 — Riesgos clásicos y actuales de ciberseguridad
4. Capítulo 2 — Respuesta y prevención de ciberseguridad
5. Autoevaluación: cadena de ataque aplicada al caso Lisa Mendez
6. Capítulo 3 — Límites de la percepción de la IA y corrección de errores
7. Glosario del módulo
8. Preguntas de reflexión
9. Cifras clave del módulo
10. Vídeos y recursos multimedia
11. Diferencias entre la guía PDF y el contenido web

---

1. Enfoque y objetivos de aprendizaje

Enfoque

El módulo recorre la evolución del riesgo cibernético en dos tiempos. Primero la etapa que el curso llama "clásica" —que no se refiere a un pasado remoto, sino simplemente a la ciberseguridad anterior a la difusión masiva de la IA—, donde una brecha solía comenzar con un correo falsificado o con un único clic sobre un adjunto malicioso. Después la etapa actual, en la que la autonomía, la capacidad generativa y la toma de decisiones de los agentes cambian por completo la superficie de ataque.

La tesis de fondo: las amenazas ya no provienen solo de atacantes humanos. Cada vez más son generadas, ejecutadas o aceleradas por los propios sistemas inteligentes. Y a los riesgos externos se suman los riesgos internos de la propia IA —alucinaciones, sesgo, fallos de razonamiento, opacidad decisional— que producen daño reputacional, financiero o físico sin que exista intención maliciosa alguna. En sectores regulados (salud, finanzas, política pública) estos fallos dejan de ser incidencias técnicas y pasan a ser responsabilidades estratégicas y legales.

Idea recurrente en todo el módulo: las tácticas modernas no atacan solo sistemas, atacan la percepción y erosionan la confianza en lo que es real, operan en tiempo real y esquivan las defensas tradicionales.

Objetivos de aprendizaje

---

2. Índice oficial del módulo y tareas

1. Riesgos clásicos y actuales de ciberseguridad
- La era clásica de los riesgos de ciberseguridad
- La era actual de los riesgos de ciberseguridad

2. Respuesta y prevención de ciberseguridad
- Respuesta
- Prevención

3. Límites de la percepción de la IA y corrección de errores
- El poder de la percepción en los agentes de IA
- Consecuencias de la alucinación y el sesgo en la exactitud y confiabilidad de los sistemas de IA
- Errores de IA agéntica

Tarea del módulo: Riesgos de IA y plan de seguridad — actividad en la que se responde una serie de preguntas estructuradas según el marco del NIST para comenzar a construir un plan de seguridad para la propia compañía. Los materiales están en el campus virtual.

---

3. Capítulo 1 — Riesgos clásicos y actuales de ciberseguridad

3.1 La era clásica

El punto de partida del capítulo es una paradoja conocida: al migrar del papel a la nube y a herramientas digitales conectadas, las organizaciones ganaron eficiencia, escala y velocidad; esas mismas propiedades multiplicaron su superficie de ataque. Con los sistemas interconectados y los datos centralizados, un solo buzón comprometido o un clic equivocado bastan para poner en riesgo a toda la organización, y la escala y velocidad de los ataques crecen de forma exponencial.

3.2 Estudio de caso: Lisa Mendez (Midpoint Financial)

Caso narrativo que vertebra los capítulos 1 y 2.

Perfil. Lisa Mendez es gerente de RR. HH. en Midpoint Financial, una firma de inversión de tamaño medio en pleno proceso de transformación digital. Entre sus funciones está evaluar nuevas plataformas de RR. HH. y modernizar los flujos de trabajo internos.

El anzuelo. Tras asistir a un seminario virtual sobre tecnología en RR. HH., Lisa queda motivada por la red de contactos que ha creado. Poco después recibe un correo cordial de alguien que dice haber sido asistente al evento, agradeciendo la conversación y adjuntando un archivo llamado "Lista final de asistentes de HR Connect.xlsx". El tono, la marca y el contexto encajan perfectamente: no hay nada que active sus alarmas.

El fallo. Lisa abre el Excel y, siguiendo las instrucciones del correo, habilita las macros para "ver la hoja completa". Con ese gesto instala sin saberlo un troyano de acceso remoto (RAT).

El movimiento lateral. Durante la semana siguiente los atacantes usan sus credenciales comprometidas para recorrer los sistemas internos. Localizan una carpeta compartida con documentación de incorporación archivada: identificaciones escaneadas e información bancaria de varios clientes de alto patrimonio. Después usan el acceso interno de Lisa para generar una solicitud de servicio que parece legítima y con ella engañan al departamento financiero para que ejecute varias transferencias "urgentes".

El daño. Cuando el equipo de ciberseguridad detecta un inicio de sesión anómalo desde una IP extranjera, ya se han desviado más de 4,3 millones de dólares de cuentas de inversionistas. Siguen fuga de clientes y escrutinio regulatorio. Lisa nunca sospechó que ella fue el punto de entrada.

Lecciones que el módulo quiere que extraigas:
- El vector no fue técnico sino contextual: el atacante explotó un momento de alta confianza y entusiasmo posterior al seminario.
- La víctima era una empleada competente y bienintencionada. El fallo humano no requiere negligencia.
- El daño real no fue la infección, sino el encadenamiento: credenciales → movimiento lateral → abuso de confianza interna → fraude financiero.

3.3 La era actual: tres vectores nuevos

Con el salto de la digitalización a la transformación digital "inyectada con IA", aparecen riesgos más difíciles de detectar, anticipar y explicar. El módulo destaca tres.

A) Deepfakes

Definición operativa: medios sintéticos —normalmente vídeo o audio— generados con IA para imitar de forma convincente la apariencia o la voz de personas reales. Se construyen con modelos como las GAN (redes generativas adversarias) o con métodos basados en difusión, y su credibilidad y accesibilidad avanzan rápido (Northwestern, 2023).

Traslación al mundo empresarial. El curso pide imaginar un deepfake del CEO anunciando un despido masivo o una fusión inexistente. Publicado en redes o enviado directamente a los stakeholders, podría desestabilizar la confianza de los inversionistas, provocar pánico interno o mover mercados antes de que exista oportunidad de corregir la narrativa. La ventana de reacción es el activo crítico.

B) Suplantación (impersonation)

Definición operativa: uso de herramientas generativas —clonación de voz, chatbots, agentes programados— para hacerse pasar de forma convincente por una persona o una marca de confianza. La táctica precede a la IA (el phishing clásico ya la usaba), pero las herramientas modernas la hacen más rápida, más escalable y mucho más creíble.

Diferencia clave frente al deepfake: el deepfake suele apuntar a audiencias amplias y públicas (vídeo, redes sociales); la suplantación apunta a individuos o grupos pequeños en canales privados, lo que la vuelve más interactiva, personalizada y difícil de detectar en el momento (Sjouwerman, 2024).

Implicaciones para la empresa: las estafas de suplantación de ejecutivos generan pérdidas directas; además, los chatbots mal protegidos pueden ser manipulados para hacerse pasar por sistemas internos o por empleados, engañando al personal o filtrando información sensible.

Matiz de "uso dual": el curso señala que la suplantación es más difícil de justificar como tecnología de doble uso que el deepfake, aunque algunas aplicaciones de clonación de voz (atención personalizada, herramientas de accesibilidad) tienen potencial legítimo en entornos controlados. Se retomará al tratar los usos positivos de la IA generativa.

C) Inyección de prompt

Definición operativa: vulnerabilidad en la que un atacante inserta instrucciones maliciosas u ocultas dentro de la entrada (prompt) que recibe un sistema de IA, con el fin de que actúe de forma no deseada: eludir sus protecciones o revelar información sensible. Su rasgo distintivo es que explota la lógica de decisión del modelo usando lenguaje natural, no código (Kosinski, 2024).

Riesgo empresarial: una inyección de prompt puede lograr que un asistente de IA envíe documentos confidenciales a terceros o produzca análisis falsos, comprometiendo reputación, privacidad e integridad de las decisiones.

Contramedidas anticipadas (se desarrollan más adelante en el curso): higiene de prompts, aislamiento (sandboxing) de los flujos de trabajo de los agentes y supervisión humana en varios niveles.

---

4. Capítulo 2 — Respuesta y prevención de ciberseguridad

El capítulo separa deliberadamente respuesta (qué hacer cuando el ataque ya está en marcha) de prevención (qué hacer antes), y asigna un marco a cada una.

4.1 Respuesta — La cadena de ataque cibernético de Lockheed Martin

Modelo creado originalmente para defenderse de ataques convencionales. Descompone un ataque típico en siete fases, desde el reconocimiento inicial hasta la extracción final de datos. Su valor práctico: cada fase es una oportunidad de detectar, retrasar o detener el ataque antes del daño grave. El módulo subraya que, aunque nació pensando en malware y phishing, ha recuperado vigencia porque sirve igual de bien para inyección de prompt, suplantación asistida por IA o ingeniería social basada en deepfakes. Permite a los directivos visualizar la anatomía de un ataque moderno y diseñar defensas en capas.

4.2 El caso Lisa Mendez mapeado sobre la cadena de ataque

Tabla del curso: qué ocurrió en cada fase y qué medida preventiva o de respuesta habría cortado la cadena. La columna de medidas incorpora explícitamente el ángulo de IA.

4.3 Prevención — El Marco de Ciberseguridad (CSF) del NIST

El curso lo formula con una imagen: la prevención es "el equivalente en ciberseguridad a tomar tus vitaminas diarias" — carece del dramatismo de la respuesta a crisis, pero es donde se construye la resiliencia real.

El NIST (Instituto Nacional de Estándares y Tecnología, agencia estadounidense) publica estándares ampliamente adoptados en tecnología, seguridad e innovación. Su CSF es un modelo flexible y práctico, apto para organizaciones de cualquier tamaño, que no prescribe herramientas ni proveedores sino que organiza la ciberseguridad en cinco funciones (IBM, 2021).

Regla mnemotécnica del ciclo: Identificar → Proteger → Detectar → Responder → Recuperar (ID · PR · DE · RS · RC).

Función 1 — Identificar (ID)

Función 2 — Proteger (PR)

Función 3 — Detectar (DE)

Función 4 — Responder (RS)

Función 5 — Recuperar (RC)

4.4 Conclusión del capítulo

Respuesta y prevención no compiten: se complementan. La cadena de ataque da el mapa táctico del incidente; el CSF del NIST da la estructura organizativa permanente. El objetivo declarado del módulo es que la transformación digital produzca un negocio eficiente, eficaz y además seguro.

---

5. Autoevaluación: cadena de ataque aplicada al caso Lisa Mendez

Actividad interactiva de opción múltiple. Se reproducen las siete preguntas con la respuesta correcta marcada en negrita.

1. Reconocimiento — ¿Qué es lo más probable que hiciera el atacante durante la fase de reconocimiento?
- Creó un documento falso convincente con malware incrustado
- ✅ Investigó el puesto de trabajo de Lisa, su asistencia al seminario web y su dirección de correo electrónico
- Accedió al software interno de recursos humanos de Midpoint utilizando credenciales robadas

2. Armamentización — ¿En qué momento se "armó" el ataque según los términos de la cadena de ataque de LM?
- ✅ Cuando el atacante creó el archivo de Excel e incrustó macros maliciosas
- Cuando Lisa abrió el correo electrónico y leyó el mensaje
- Cuando el troyano de acceso remoto (RAT) comenzó a transmitir datos al centro de comando

3. Entrega — ¿Cómo se entregó el paquete armado a la víctima?
- ✅ A través de un correo electrónico de phishing con un archivo de Excel adjunto
- A través de un enlace malicioso en el sitio web interno de Midpoint
- Mediante una unidad USB infectada que Lisa usó en el trabajo

4. Explotación — El malware se activó en el momento en que Lisa…
- Abrió su correo electrónico
- Hizo clic en el documento de Excel
- ✅ Habilitó las macros

5. Instalación — ¿En qué momento el atacante logró ingresar al sistema de Lisa?
- Una vez que se abrió el correo electrónico
- ✅ Una vez que el RAT se instaló después de la activación de las macros
- Cuando el sistema antivirus marcó el archivo

6. Comando y control (C2) — ¿Cómo mantuvo el atacante el acceso al sistema de Lisa?
- Iniciando sesión en el almacenamiento en la nube de Lisa
- ✅ A través de un servidor de comando y control utilizado por el RAT
- Dejando un dispositivo físico conectado a su estación de trabajo

7. Acciones sobre los objetivos — ¿Cuál fue el objetivo final del atacante?
- Interrumpir los flujos de trabajo de incorporación de recursos humanos
- Robar la información de identidad personal de Lisa
- ✅ Extraer datos financieros confidenciales de los clientes

Truco de estudio: la distinción que más se falla es explotación vs. instalación. La explotación es el acto del usuario que dispara la carga (habilitar macros); la instalación es la consecuencia técnica (el RAT queda residente y con persistencia).

---

6. Capítulo 3 — Límites de la percepción de la IA y corrección de errores

6.1 El poder de la percepción en los agentes de IA

Analogía de partida. Igual que nuestros sentidos captan el mundo y el cerebro lo procesa, la IA recoge datos de múltiples fuentes, los analiza y actúa. La diferencia es el canal: donde una persona ve u oye directamente, un sistema de IA depende de hardware intermediario —cámaras, micrófonos, sensores—. La percepción es la puerta de entrada por la que un agente comprende su ecosistema, y condiciona todas sus decisiones y acciones posteriores.

Seis funciones que cumple la percepción en un agente (Stryker, s. f.):

Idea de cierre: en una era donde los agentes colaboran con humanos y con otros sistemas, la percepción no es un detalle técnico sino la lente misma a través de la cual el agente interpreta la realidad, emite juicios y genera valor.

6.2 Las seis limitaciones principales de la percepción de la IA

Presentadas en el curso como tarjetas interactivas. Constituyen, según el módulo, un desafío significativo para la evolución de los sistemas de IA generativa y agéntica.

Vídeo del Dr. Williams — "Aprendizaje en contexto". El módulo enlaza aquí la limitación de memoria con la arquitectura: la ventana de contexto de longitud fija equivale a una especie de memoria a corto plazo del LLM (Williams, 2025). El vídeo explica cómo la generación aumentada por recuperación (RAG) ayuda a superar esa limitación concreta.

6.3 Consecuencias de la alucinación y el sesgo: qué frena la adopción

Encuesta Deloitte — State of Generative AI in the Enterprise 2024 (más de 2.700 líderes sénior en todo el mundo). Pregunta: ¿qué puede frenar el mercado de la IA generativa en los próximos 24 meses?

Conclusión de Deloitte recogida por el curso: para que la adopción se produzca, la fiabilidad, la exactitud y la confiabilidad de la tecnología tendrán que mejorar.

6.4 Alucinaciones, inexactitudes y desinformación

Definición: una alucinación ocurre cuando el modelo genera información que no está fundamentada ni en sus datos de entrenamiento ni en el prompt (Wei et al., 2022).

Causa raíz: los LLM no son intrínsecamente capaces de verificar su propio trabajo; generan respuestas a partir de probabilidades, no de verdades verificadas (Dayal, 2025).

Efecto sistémico: las alucinaciones alimentan olas de desinformación cuando las fabricaciones circulan en línea. Para una organización, difundir inexactitudes generadas por IA se traduce en pérdidas financieras, erosión de confianza y daño reputacional, sobre todo en industrias reguladas de alto riesgo como finanzas y salud.

Escenario ficticio (pero realista): CareBot 2.0

Anclaje empírico. Un análisis de la consultora BHM Healthcare Solutions estimó que las tasas de alucinación en modelos de IA usados para toma de decisiones clínicas oscilan entre 8 % y 20 %, según la complejidad del modelo y la calidad de los datos de entrenamiento. En un caso, un sistema clasificó erróneamente nódulos benignos como malignos en el 12 % de los casos, provocando intervenciones quirúrgicas innecesarias (BHM Healthcare Solutions).

Casos reales de alucinación por industria

Observación del curso: el impacto va de lo dramático (alucinaciones en transcripción médica) a lo meramente vergonzoso (una lista de lecturas inexistente). La diferencia la marca el contexto de uso, no la tecnología.

6.5 Estrategias de mitigación: alucinaciones y calidad

6.6 Sesgo e imparcialidad

Mecanismo. Los LLM aprenden de conjuntos de datos enormes que pueden contener y replicar sesgos sociales dañinos. Los modelos generan texto, imágenes e incluso soluciones complejas a velocidades altísimas, pero carecen de "verdadera comprensión, razonamiento moral y juicio ético" (Dayal, 2025).

Consecuencia. Sin mitigación mediante supervisión humana y gobernanza, los sistemas amplifican esos sesgos y producen resultados injustos o discriminatorios en aplicaciones críticas —contratación, préstamos, aplicación de la ley— con el consiguiente daño reputacional para quien los usa (Streets, 2024; Dayal, 2025).

Casos de sesgo algorítmico

Medidas de seguridad frente al sesgo

Fuente: (Streets, 2024; Anisuzzaman et al., 2025; Dayal, 2025)

6.7 Errores específicos de la IA agéntica

Además de los problemas generales de los LLM, los sistemas agénticos añaden riesgos propios:

• Margen de error fuera del control humano. Los agentes autónomos deciden y ejecutan con supervisión mínima; pequeños errores de cálculo escalan rápido y pueden generar pérdidas financieras significativas.
• Opacidad de "caja negra". Al ser difícil explicar la lógica interna del LLM, se complican la rendición de cuentas y la responsabilidad legal cuando algo sale mal.
• Comportamiento impredecible. La autonomía produce desvío de tareas (task drift) y errores, y el problema se agrava a medida que los flujos de trabajo se vuelven más complejos (Sanchez, 2025).

Estrategias de mitigación para sistemas agénticos

Fuente: (Deloitte, 2025; Sanchez, 2025)

6.8 Conclusión del capítulo

Los sistemas de IA más avanzados de hoy pueden equivocarse en los hechos, reflejar sesgos dañinos o decidir mal, dañando la confianza y causando perjuicio real. De ahí la necesidad de supervisión sólida, responsabilidad claramente asignada y perfeccionamiento continuo. Conforme avanzamos hacia sistemas agénticos que no solo generan contenido sino que deciden y ejecutan, estas medidas de seguridad se vuelven aún más críticas: diseñar con límites, transparencia y rutas de escalamiento humano desde el principio es lo que determinará que los futuros agentes actúen no solo con eficiencia, sino con responsabilidad.

---

7. Glosario del módulo

Fuente: Glosario_M4.pdf (15 términos). Definiciones reformuladas.

---

8. Preguntas de reflexión

Recogidas en MITPE_DT_M4_Reference_Guide.pdf (sección "Reflexión"). No aparecen en el reproductor web.

1. ¿Cómo podría su organización equilibrar el poder de la automatización de IA con los riesgos de deepfakes, alucinaciones y suplantación?
2. ¿De qué maneras puede la supervisión humana y la alfabetización mediática reducir el daño causado por la desinformación generada por IA?
3. ¿Cómo afectan las limitaciones de la percepción de la IA —como la falta de empatía y de comprensión contextual— a la confianza y la toma de decisiones en los sistemas del mundo real?

---

9. Cifras clave del módulo (resumen)

---

10. Vídeos y recursos multimedia

Padlets: este módulo no incluye ningún Padlet. Se verificó el DOM de las 11 páginas del reproductor sin encontrar referencias a la plataforma.

---

11. Diferencias entre la guía PDF y el contenido web

Conclusión: el PDF es un extracto. No contiene ninguna referencia que no esté también en la web (sus 5 referencias —Northwestern, Kosinski, Deloitte, Wei et al., Dayal— son un subconjunto de las 35 del reproductor). Su único contenido exclusivo son las tres preguntas de reflexión.

---

Apuntes elaborados a partir del contenido del módulo 4 del curso de MIT Professional Education. Redacción propia; se evita la reproducción literal del material del curso salvo en citas breves entrecomilladas y en las referencias bibliográficas.