IA Agéntica

Conceptos

Tarjeta del modelo

Módulos Módulo 8Etiquetas tipo/concepto curso/mit/m8 tema/etica tema/gobernanza

Documento conciso que reúne información estandarizada sobre un modelo de IA, con la misma lógica que una etiqueta nutricional describe un alimento: no explica cómo está hecho por dentro, sino qué contiene, para qué sirve y qué riesgos trae.

Contenido típico:

Apartado Qué documenta
Usos previstos Para qué se diseñó el modelo — y, por omisión, para qué no
Limitaciones Dónde deja de ser fiable
Fuentes de los datos de entrenamiento De dónde salió lo que sabe, que es de donde salen también sus sesgos
Resultados de desempeño Métricas, idealmente desagregadas por subgrupo
Riesgos conocidos Fallos documentados y modos de uso indebido

El concepto lo introdujeron investigadores de Google en 2019 (Desai, 2023).

Para qué sirve en la empresa

Permite a una organización decidir si un sistema de IA es adecuado, justo y seguro para una aplicación concreta antes de adoptarlo. Es, en la práctica, el documento que hace posible una decisión de compra informada sobre un modelo de terceros: sin él, la evaluación se reduce a probar el sistema y esperar.

En el curso

Módulo 8 — capítulo 1, es la única definición formal del módulo. Aparece como uno de los tres instrumentos técnicos que convierten los principios éticos en acción, junto con la Auditoría de sesgo y las listas de verificación ética.

Conecta hacia atrás con la documentación para auditoría del módulo 7: la tarjeta del modelo es una de las piezas que un auditor esperaría encontrar.

Relacionado

Auditoría de sesgo · Sesgo algorítmico · Gobernanza · No causar daño · Análisis del impacto en las partes interesadas · Prueba de transparencia pública · ISO-IEC 42001 · Deriva del modelo

Enlaces entrantes