IA en la sombra

Uso de herramientas de IA por parte de los empleados sin conocimiento ni autorización de los equipos de TI y seguridad. Es la contracara de la democratización de la IA: la misma facilidad de acceso que acelera la adopción hace que las capacidades avanzadas entren en la organización por la puerta de atrás, fuera de todo control.

En el curso

Módulo 5 — se aborda en el capítulo 1, justo después del ciclo de madurez de la IA. Sus formas más comunes son chatbots de IA, modelos externos de aprendizaje automático y herramientas de visualización de datos con IA; sus riesgos, la filtración de datos, las vulnerabilidades de seguridad, el incumplimiento normativo (el RGPD como caso citado) y el daño reputacional.

El anclaje empírico es una encuesta a 7.000 personas en EE. UU., Reino Unido, Canadá, Alemania, Australia, India y Nueva Zelanda, de la National Cybersecurity Alliance y CybSafe (2024):

La mitigación que propone el módulo tiene dos vías. La organizacional: marcos de Gobernanza claros con un catálogo de herramientas autorizadas alineadas a seguridad y cumplimiento, políticas de uso detalladas y educación continua; dar acceso fácil a soluciones aprobadas de nivel empresarial reduce la búsqueda de alternativas no autorizadas, sin frenar la innovación. La técnica: Prevención de pérdida de datos (DLP), filtrado del tráfico de red, controles de acceso basados en roles, auditorías del uso de herramientas, revisión de registros de entrada y salida, entornos seguros de experimentación y equipos de gobernanza multifuncionales o centros de excelencia.

En la etapa 2 del ciclo de madurez ("enseñar los fundamentos de la IA") las políticas de gobernanza se definen explícitamente para mitigar la IA en la sombra, junto con la implantación de editores de LLM aprobados.

Relacionado

Gobernanza · Prevención de pérdida de datos (DLP) · Acceso con privilegios mínimos · Exfiltración · Implementación por fases · Ciclo de madurez de la IA · Modelo gatear caminar correr