Desinformación sintética
Información falsa o engañosa creada y distribuida mediante contenido generado por IA —vídeos deepfake, clones de voz, textos fabricados— con intención de engañar o manipular. Se distingue de la Alucinación por la intención: la alucinación es un fallo del modelo, la desinformación sintética es un uso deliberado.
En el curso
Módulo 4 — el módulo traza el puente entre ambos fenómenos: las alucinaciones alimentan olas de desinformación cuando las fabricaciones circulan en línea. Para una organización, difundir inexactitudes generadas por IA se traduce en pérdidas financieras, erosión de confianza y daño reputacional, sobre todo en sectores regulados de alto riesgo como finanzas y salud.
Los casos que el curso documenta muestran el rango completo del daño:
| Caso | Qué ocurrió | Consecuencia |
|---|---|---|
| Robocall con la voz de Joe Biden (enero 2024) | Llamadas automáticas con voz clonada instando a no votar en las primarias de New Hampshire | Interferencia electoral directa (Bond, 2024) |
| Chatbot de Air Canada | Informó erróneamente de que el reembolso por tarifa de duelo podía pedirse hasta 90 días después del viaje | Reembolso de ≈650 CAD y precedente de responsabilidad legal: el juez rechazó que el chatbot no formara parte legal del sitio web (Belanger, 2024) |
| Chatbot MyCity (Nueva York) | Dio información falsa y en ocasiones ilegal a pequeñas empresas: que podían quedarse con las propinas o rechazar pagos en efectivo | La ciudad reconoció los errores y anunció correcciones (Allen, 2024; Offenhartz, 2024) |
| "Heat Index" — Chicago Sun-Times y Philadelphia Inquirer (mayo 2025) | Suplemento de lectura veraniega con títulos y resúmenes de libros fabricados por IA, atribuidos falsamente a autores reales como Isabel Allende y Min Jin Lee | Rescisión del contrato con la distribuidora y retirada de la sección (Sato, 2025) |
Entre las estrategias de mitigación, el módulo cita explícitamente las iniciativas de alfabetización mediática: educar a los usuarios para que comprendan y se protejan del contenido sintético (The Future of Synthetic Media, 2024). Una de las preguntas de reflexión del módulo pregunta justamente cómo la supervisión humana y la alfabetización mediática pueden reducir este daño.
Módulo 5 — la desinformación figura entre los tres riesgos de la IA agéntica en navegadores: sobre archivos financieros, investigación médica o políticas internas, pequeñas inexactitudes llevan a malas decisiones. El caso citado: Microsoft fue amenazada por la UE con multas superiores a 2.000 millones de dólares por desinformación de su motor de búsqueda.
Relacionado
Deepfake · Alucinación · Ataque de suplantación · Spoofing · Human-in-the-loop · Puntuación de confianza · NIST CSF
Enlaces entrantes
- Ataque de suplantaciónConcepto
- DeepfakeConcepto
- Estafa de voz clonada — empresa energética del Reino UnidoCaso
- Human-in-the-loopConcepto
- M8 Ética y proyecto finalMódulo
- Puntuación de confianzaConcepto
- Sesgo algorítmicoConcepto
- SpoofingConcepto