Delincuentes peligrosos
La Unión para las Libertades Civiles de California del Norte, una organización sin ánimo de lucro conocida como ALCU por sus siglas y centrada en la defensa de los derechos civiles, ha publicado los resultados de una prueba del sistema de reconocimiento facial de Amazon, Rekognition, con fotografías de congresistas norteamericanos.
El motor ha identificado erróneamente a 28 de ellos como criminales registrados en bases de datos policiales. Seis, además, eran afroamericanos. Es un resultado que corrobora la dificultad de estos algoritmos para identificar correctamente a personas con piel oscura.
Cyrus Farivar escribe sobre la prueba en Ars Technica:
Como Ars ha informado con anterioridad, si los datos de entrenamiento para el algoritmo están muy sesgados hacia los hombres blancos, el motor resultante puede ser excelente para identificar a otros hombres blancos pero inútil para reconocer a cualquier persona fuera de ese grupo demográfico en particular.
Amazon ha comenzado a ofrecer este motor de reconocimiento facial a varias fuerzas de seguridad de diversos estados norteamericanos.