Ética de la IA
En el planteamiento del curso, la ética de la IA no es una disciplina normativa separada del negocio, sino el filtro por el que pasan todas las demás decisiones —estrategia, tecnología, riesgo, cumplimiento— y, en último término, una forma de gestión de riesgos.
La pregunta que la define: ya que podemos aplicar la IA, ¿deberíamos? ¿Bajo qué condiciones?
Por qué es distinta de la ética de la tecnología anterior
| Propiedad de la IA | Consecuencia |
|---|---|
| Opacidad | Las decisiones a menudo no pueden explicarse por completo ni siquiera por sus desarrolladores |
| Carácter probabilístico y adaptativo | El sistema cambia con el tiempo (Deriva del modelo) |
| Escala y velocidad | Los errores se amplifican: una fórmula defectuosa en una hoja de cálculo afecta a un equipo; un modelo defectuoso afecta a miles o millones |
Los cuatro principios
- Equidad y no discriminación — y el argumento de que la equidad además es rentable (Satell y Abdel-Magied, 2020; Kaushik, 2024)
- Transparencia y explicabilidad — los sistemas de caja negra generan desconfianza
- Responsabilidad y rendición de cuentas — la autonomía no exime de responsabilidad
- Privacidad y gestión de datos
Las tres pruebas y los tres instrumentos
Pruebas de decisión: No causar daño · Análisis del impacto en las partes interesadas · Prueba de transparencia pública.
Instrumentos técnicos: tarjetas del modelo · auditorías de sesgo · listas de verificación ética.
No es uniforme entre jurisdicciones
Europa lidera con normas centradas en la privacidad; Estados Unidos favorece enfoques centrados en la innovación con supervisión emergente; Asia varía, con casos de experimentación y regulación dirigidas por el Estado. Quien opera globalmente debe respetar las diferencias legales y culturales manteniendo los principios fundamentales.
En el curso
Módulo 8 — capítulo 1 completo. Es el único contenido conceptualmente nuevo del módulo; el capítulo 2 es una recapitulación de M1–M7.
Relacionado
Gobernanza · Tarjeta del modelo · No causar daño · Análisis del impacto en las partes interesadas · Prueba de transparencia pública · Auditoría de sesgo · Sesgo algorítmico · Deepfake · ISO-IEC 42001 · Ley de IA de la UE