UnitedHealth
Enfrenta una demanda por usar un modelo predictivo con alta tasa de error para denegar cobertura médica a pacientes ancianos, anulando el criterio de sus propios médicos.
Qué implementó
El modelo nH Predict, aplicado a decisiones de cobertura en el ámbito de los seguros de salud.
Qué falló
La demanda alega que el modelo, con alta tasa de error, se usó para denegar cobertura médica crítica a pacientes ancianos, sobreponiéndose al juicio clínico de los médicos. Se informó además de presión sobre los administradores de casos para cumplir objetivos de estancias hospitalarias más cortas — es decir, un incentivo organizativo alineado con el sesgo del modelo, no un contrapeso.
Resultados
| Indicador | Estado |
|---|---|
| Situación | En litigio, pendiente de resolución |
El módulo lo enmarca además en el historial documentado de sesgo algorítmico racial en la atención al paciente dentro del sector salud.
En el curso
Módulo 4 — capítulo 6, tabla de casos de sesgo algorítmico, junto a iTutorGroup y SafeRent.
Relacionado
SafeRent · iTutorGroup · Watson for Oncology · Human-in-the-loop · Gobernanza · EMR