SafeRent Solutions

Su algoritmo de evaluación de inquilinos habría discriminado a solicitantes de bajos ingresos con vales de vivienda, con un impacto desproporcionado sobre solicitantes negros e hispanos.

Qué implementó

Un sistema algorítmico de evaluación de inquilinos para arrendadores.

Qué falló

Se le acusó de depender en exceso de la información crediticia, lo que perjudicaba de forma desproporcionada a solicitantes negros e hispanos por sus puntajes crediticios medianos más bajos —atribuibles a desigualdades históricas—, y de discriminar a solicitantes de bajos ingresos que usaban vales de vivienda. El curso añade un reproche de diseño: el sistema no ofrecía empatía individual ni vía de apelación frente a la decisión automatizada.

Resultados

(Bedayn, 2024)

En el curso

Módulo 4 — capítulo 6, tabla de casos de sesgo algorítmico, junto a iTutorGroup y UnitedHealth.

Relacionado

iTutorGroup · UnitedHealth · Gobernanza · Human-in-the-loop · Air Canada