Un sistema de reconocimiento facial automático condujo al arresto de un hombre inocente.

Parece que el mayor temor de quienes se oponen a los sistemas de reconocimiento facial se ha hecho realidad. Un sistema de reconocimiento facial automático condujo al arresto injusto de Robert Williams, un residente de Detroit, EE. UU. Las fuerzas del orden utilizaron un software desarrollado por DataWorks Plus para encontrar un delincuente basado en un registro de cámara de vigilancia. Utilizando datos de la base de datos policiales, como la foto de la licencia de conducir, el sistema identificó a Roberts. Sin embargo, no estaba en la escena del crimen en ese momento.

La policía utilizó un software de reconocimiento facial y un experto para confirmar la identidad del sospechoso.

El arresto no se realizó enteramente sobre la base del sistema automático. El software DataWorks simplemente sugirió que Williams podría ser el único en la sesión. Esta información fue proporcionada a un consultor de seguridad contratado, quien confirmó que las dos imágenes representan a la misma persona. Sin embargo, el consultor nunca vio a Robert Williams y no conocía ninguna otra información sobre él.

Sin embargo, la policía hizo el arresto. Sin embargo, resultó que Robert Williams no estaba cerca de la escena del crimen. Sin embargo, la ACLU (American Civil Liberties Union) está demandando a la policía de Detroit por arrestar injustamente a Williams. La asociación dice que el sistema desarrollado por DataWorks en primer lugar no puede distinguir entre diferentes personas de color. Además, los agentes de policía confían demasiado en un sistema automatizado, creyendo que puede proporcionarlos directamente al sospechoso.

¿Podrían los sistemas automáticos restringir nuestras libertades civiles?

Robert Williams dijo que no querría que un sistema así fuera ampliamente adoptado, incluso si fuera completamente exacto. Él dice que no querría que sus hijas estén en una base de datos a la que pueda acceder el gobierno si están en una protesta contra el gobierno. Dados los últimos eventos en los Estados Unidos, muchos de los manifestantes probablemente estarían en contra de un sistema tan automatizado.

Este es el primer caso en el que un sistema de reconocimiento facial automático ha llevado a un arresto injusto.

fuente: Engadget