Deepfake

Contenido de audio o vídeo generado con IA que imita de forma convincente la apariencia o la voz de personas reales. Se construye con arquitecturas como las GAN (redes generativas adversarias) o con métodos de difusión, y facilita suplantación, desinformación y manipulación; detectarlo sin herramientas especializadas es difícil y lo es cada vez más.

En el curso

Módulo 4 — es el primero de los tres vectores "de la era actual" del capítulo 1. Su credibilidad y su accesibilidad avanzan rápido (Northwestern, 2023).

Traslación al mundo empresarial. El curso pide imaginar un deepfake del CEO anunciando un despido masivo o una fusión inexistente. Publicado en redes o enviado a los stakeholders, podría desestabilizar la confianza de los inversionistas, provocar pánico interno o mover mercados antes de que exista oportunidad de corregir la narrativa. La idea que hay que retener: el activo crítico es la ventana de reacción.

Frente al Ataque de suplantación: el deepfake apunta a audiencias amplias y públicas —vídeo, redes sociales—; la suplantación, a individuos o grupos pequeños en canales privados.

En el mapeo del caso Lisa Mendez sobre la Cadena de ataque cibernético, la detección de deepfakes aparece como contramedida de la fase de armamentización, especialmente para audio o vídeo que aparente venir de la dirección. Y en la función Proteger del NIST CSF, el curso recomienda incorporar escenarios de deepfake a la formación de todo el personal.

Módulo 8 — vuelve como el segundo de los tres riesgos empresariales de los fallos éticos, ahora con el ángulo del fraude financiero además del político:

La lectura del módulo 8: la amenaza "va más allá del daño en la reputación: puede socavar la confianza en los directivos, la publicidad e incluso las comunicaciones con los clientes".

Relacionado

Desinformación sintética · Ataque de suplantación · Spoofing · Cadena de ataque cibernético · NIST CSF · Alucinación · GAN · Estafa de voz clonada — empresa energética del Reino Unido · Ética de la IA