Errare humanum est, pero también se equivocan las máquinas. Y, si no, que se lo digan a Robert Julian-Borchak Williams, arrestado frente a su mujer e hijos el pasado mes de enero en la ciudad de Detroit, según informa elNew York Times y recoge la web Xataca. Estuvo 30 horas detenido y bajo fianza de 1.000 dólares.
La culpa la tuvo un algoritmo de reconocimiento facial, y él no guardaba relación alguna con la persona a la que la policía buscaba. Se trataba de un indiviudo acusado de robar cinco relojes por valor de 4.000 dólares en una tienda.Es la primera vez, según los citados medios, que se detiene errróneamente a una persona mediante un software de reconocimiento facial. Recientemente,IBM, tras el caso George Floyd, anunció que iba a abandonar este tipo de tecnología por las implicaciones o repercusiones racistas que pudiera tener y también por sus posibles fallos. El CEO de IBM escribió en un comunicado: "es el momento de iniciar un diálogo nacional sobre si la tecnología de reconocimiento facial debe ser empleada por los organismos nacionales encargados de hacer cumplir la ley".
Así se siente la víctima del error del sistema de reconocimiento facial
DataWorks Plus, el software utilizado por la policía del estado de Michigan, identificó a Williams después de sincronizar la foto de su licencia de conducir con las imágenes que había obtenido de la cámara de vigilancia la noche en la que se produjo el robo.
Lo curioso de este caso, según afirman los expertos de NPR, es que para los policías estaba muy claro que el sospechoso no había sido el autor del crimern. "La máquina lo ha captado mal", dijo el policía tras comparar presencialmente las imágenes con el propio Williams. Un guardia de seguridad, en cambio, dijo que era la misma persona.
Aclu, una especie de ONG de la abogacía, ha anunciado una querella contra la policía de Detroit, que, por supuesto, ya ha borrado la ficha policial que hizo a Williams. En el siguiente Tweet se puede ver el relato de los hechos.
"Cuando miro la foto de la persona, solo veo a un negro grande. No veo ningún parecido. No creo que se parezca a mí en absoluto. Espero que no piense que todos los negros son iguales", explica Williams en su cuenta de twitter.
Según Xataca , diferentes expertos de IA afirman que en el caso de las personas de raza negra las máquinas fallan por falta de muestras.
Las fiscalía del condado de Wayne ya ha pedido disculpas a Robert Julian-Borchak Williams, aunque en ningún caso "podrán compensar las horas que pasó detenido", y por supuesto, han borrado de la base de datos sus huellas y la ficha policial que le hicieron tras ser detenido.