Los sistemas de reconocimiento facial son un tipo de tecnología biométrica basada en la inteligencia artificial que ha experimentado un gran avance gracias a la investigación, especialmente en las técnicas 3D, y que cada vez está más presente en nuestras vidas. Sin embargo, también sigue haciendo frente a numerosos problemas que lo ponen en tela de juicio y generan una enorme controversia.
Qué son y para qué sirven los sistemas de reconocimiento facial
Básicamente, son una herramienta que es capaz de verificar, identificar o encontrar a un sujeto que está rodeado de gente a partir del reconocimiento de sus rasgos faciales, sus gestos o su comportamiento (por ejemplo, su firma). Como en un reciente artículo señaló El País, sus tres utilidades son distintas, por lo que cabe distinguir entre varios procesos según el objetivo.
La verificación (una persona, una identidad): Se practica cuando se tienen los datos de alguien cuya identidad se quiere comprobar, cerciorándose que su rostro coincide con la imagen dada. Este tipo de reconocimiento es el más cercano a nuestra vida cotidiana, ya que se utiliza, por ejemplo, en pasaportes biométricos, en sistemas de inicio de sesión o en los smartphones como sistema para desbloquear la pantalla. Además, la pandemia del Covid-19 ha extendido su uso, ya que no requieren contacto ni apenas cooperación y muchas organizaciones los están implementando en sustitución de otros controles biométricos como la huella dactilar.
La identificación (muchas personas, una identidad): Se utiliza cuando se necesita comparar una imagen con un conjunto de identidades conocidas para encontrar la más parecida. Este es el método que podrían utilizar los cuerpos de seguridad para identificar a un sospechoso, aunque a veces el rostro no obtiene ninguna coincidencia porque no está registrado en la base de datos.
La búsqueda de una persona entre una multitud (muchas personas, muchas identidades): Es el más complejo de los tres, ya que es necesario que todas las caras entren en el sistema de detección para así tratar de asignar una identidad a cada rostro mediante un algoritmo de reconocimiento facial. Este tipo de reconocimiento podría ser característico de los sistemas de videovigilancia, pero las imágenes que obtienen las cámaras CCTV no suelen ser de gran calidad y este es uno de los obstáculos que hacen que sigan estando lejos de ser perfectos.
También son capaces de categorizar personas
Además, los sistemas de reconocimiento facial también son capaces de categorizar la imagen de una cara y, en cualquiera de los casos, es posible registrar individuos sin su conocimiento o consentimiento, según el grupo de trabajo del Artículo 29 (un grupo de trabajo independiente del European Data Protection Board).
Se utiliza en 109 países y se ha prohibido en tres
Durante los últimos años, el uso de la tecnología de reconocimiento facial en la vigilancia se ha vuelto cada vez más común en todo el mundo. Según un estudio de Surfshark, actualmente hay 109 países que están utilizando o que han aprobado el uso de tecnología de reconocimiento facial con fines de vigilancia y solo se ha prohibido en tres países: en Bélgica, que en 2019 descubrió en un proyecto piloto que infringe la ley federal y que es el único que lo ha declarado ilegal; en Luxemburgo y en Marruecos. Además, Francia y Suecia han prohibido expresamente esta tecnología en los colegios.
China es el país con mayor proporción de cámaras de seguridad por habitante (una por cada doce) y también es el proveedor líder de hardware de reconocimiento facial en todo el mundo. Desde hace meses ha ampliado el uso de esta tecnología para utilizarlo como un medio para controlar los movimientos de las personas positivas en coronavirus, y otros países como Corea del Sur, Taiwán, Singapur o Rusia también están haciendo lo mismo. En Moscú, por ejemplo, han desplegado más de 100.000 cámaras de seguridad para vigilar que no se infrinjan las normas. Además, entre estos países también cabe señalar que Singapur va a ser el primer país del mundo en usar la verificación facial como sustituta de su carné de identidad o pasaporte.
Su aceptación en América
En América del Norte también está extendida la vigilancia por reconocimiento facial. En el caso de Estados Unidos, se utiliza en más de 30 departamentos de policía estatales y locales mientras que, al mismo tiempo, cada vez más ciudades luchan por prohibir esta tecnología. En mayo de 2019, San Francisco se convirtió en la primera ciudad estadounidense en prohibirla por completo y desde entonces otras ciudades de EE.UU., incluidas Oakland y Northampton, han votado a favor de su veto.
América del Sur, por su parte, es el continente con mayor proporción de países que utilizan sistemas de reconocimiento facial, el 92%, y su uso está muy extendido entre los departamentos de policía, donde están teniendo un gran efecto. En Argentina, la tecnología de reconocimiento facial ayudó a la policía a realizar 590 identificaciones correctas en solo seis semanas de 2019 y en Brasil ayudó a la policía a detener a la segunda persona más buscada de Interpol en Sudamérica.
En Europa se utiliza en 32 países, España incluido
En cuanto a Europa, la tecnología de reconocimiento facial está actualmente en uso o ha sido aprobada para su uso en 32 países. Londres, una de las ciudades con más cámaras de seguridad en sus calles, instaló en enero de 2020 cámaras de reconocimiento facial por toda la ciudad y a finales de febrero ya había realizado su primer arresto aprovechando esta tecnología. La policía alemana también utiliza programas similares y planea situar cámaras de reconocimiento facial en 14 aeropuertos y 134 estaciones de tren, mientras que el Gobierno checo asegura que sus cámaras han propiciado al menos 160 arrestos en el aeropuerto de Praga desde mediados de 2018.
Los casos de uso en España: Desde aeropuertos a Ifema y hasta en Mercadona
España también utiliza en varios de sus principales aeropuertos un sistema de identificación biométrica instalado por Aena, que permite al viajero realizar la facturación y el embarque sin necesidad de mostrar su documentación. En la Estación Sur de Madrid se comenzó a implantar en 2016 para identificar a delincuentes y, según sus responsables, ha servido para reducir la actividad de los carteristas.
Desde octubre de 2019, la Empresa Municipal de Transportes (EMT) de Madrid está probando en una de sus líneas una tecnología que convierte la cara de los viajeros en un método de pago. "La cara se asocia a una tarjeta por medio de una aplicación en la que los viajeros se dan de alta. Al pasar por cámara, se hace el cargo. Y lo bueno es que no se puede falsificar", explicó Enrique Diego director de tecnología de la EMT.
El pasado mes de febrero, el aeropuerto Adolfo Suárez Madrid-Barajas también inició un piloto de reconocimiento facial que atiende a las nuevas medidas de seguridad sanitaria implantadas como consecuencia del Covid-19. "El proyecto propuesto permite la detección biométrica de los pasajeros gracias al uso de equipos móviles tipo tablet, lo que mejorará su experiencia de viaje en el aeropuerto, al agilizarse todo el proceso y eliminarse cualquier tipo de contacto físico, lo que incrementa aún más la seguridad en todos los trámites aeroportuarios", señaló Thales, el proveedor de las tecnologías biométricas y procesos de validación de identidad de esta prueba.
Este sistema cumpliría la exigencia que fijó una decisión de la Comisión Europea que entrará en vigor en 2022, que todos los países que forman parte del espacio Schengen cuenten con una tecnología que permita que los visitantes no Schengen registren su identidad de forma rápida y segura, incluidos sus datos biométricos (rostro y de huellas dactilares). La Unión Europea ya está trabajando en implementar esta medida y está preparando una gran base de datos que recopilará las huellas dactilares e imágenes faciales de más de 400 millones de personas de terceros países para controlar la entrada y salida del espacio Schengen.
Para este año, España también tiene previsto instalar sistemas de reconocimiento facial en sus fronteras con la puesta en marcha del proyecto europeo de "pasillos biométricos", que arrancará de forma piloto en La Línea de la Concepción (Cádiz). Renfe también solicitó el pasado mes de febrero una licitación para desarrollar un sistema de reconocimiento y análisis que, entre otras cosas, debía permitir identificar el género, la edad, el origen étnico o incluso el estado emocional de usuarias y usuarios, aunque finalmente dio marcha atrás y la retiró.
Además, otros espacios como Ifema, el centro de congresos de Madrid, empezó a implantar cámaras de reconocimiento facial en 2019, pero no está claro si su objetivo es facilitar los accesos o vigilar a los asistentes a eventos. Ambas opciones son viables y más desde el pasado mes de julio, cuando el Gobierno introducía en el BOE la posibilidad de instalar sistemas de reconocimiento facial como herramienta de control en eventos multitudinarios para facilitar que los agentes puedan detener a personas con asuntos pendientes con la justicia.
"El reconocimiento facial continúa extendiéndose. Solo entre los Estados Unidos y China, los rostros de más de 1.500 millones de adultos se encuentran actualmente en las bases de datos de reconocimiento facial. La tecnología se está volviendo más precisa: una encuesta reciente encontró que las tasas de error de identificación en toda la industria mejoraron en un promedio de 2,000% entre 2014 y 2018, y con esas mejoras vienen mayores amenazas a la privacidad y la libertad personal", concluye Surfshark en su estudio.
Actualmente, también existen muchas empresas que ya han instalado tecnologías biométricas en sus instalaciones. Una de ellas es Mercadona, que las usa en sus supermercados, no sin suscitar polémica, y otras son Walmart, 7-Eleven o Blue Tree Hotels. Por otra parte, también hay compañías que han descartado el uso de estas tecnologías en determinados contextos. Entre junio de 2020, como respuesta a las protestas masivas del movimiento Black Lives Matter tras el asesinato policial de George Floyd en EE.UU., IBM anunció su retirada del negocio de reconocimiento facial, Amazon la suspensión del uso policial de su tecnología durante un año entero y Microsoft que tampoco venderá su tecnología de reconocimiento facial a la policía estadounidense hasta que no exista una "profunda legislación basada en los derechos humanos".
Los problemas de las tecnologías de reconocimiento facial: choca con los derechos humanos
La condición de Microsoft para levantar su veto a la policía puede parecer quimérica, pero también se puede considerar como justa porque es innegable que las tecnologías biométricas vulneran derechos humanos, como el derecho a la privacidad, a la protección de datos o a la no discriminación, ya que pueden ser racistas, sexistas o clasistas.
El problema de la discriminación se debe precisamente a que se basa en sistemas de inteligencia artificial, es decir, que el proceso no solo es automatizado sino que puede ir aprendiendo a medida que se añaden nuevas imágenes, nuevos casos, nuevas funciones… y las investigaciones han demostrado repetidamente que su funcionamiento es mucho más inexacto con algunos grupos demográficos que con otros y que tienen un notable sesgo racial: no identifican correctamente caras de personas asiáticas o de raza negra.
Por ello, los sistemas de reconocimiento facial pueden producir resultados extremadamente inexactos y un estudio del Instituto Nacional de Estándares y Tecnología (NIST), dependiente del Departamento de Comercio de EE.UU., mostró tasas de "falsos positivos" para asiáticos y afroestadounidenses hasta 100 veces más altas que para los blancos.
Además, estas tecnologías transgreden de forma sistemática la presunción de inocencia y ya ha habido más de un caso que un error de esta tecnología ha llevado a la cárcel a un inocente. A estos problemas se suman cuestiones como el uso que se vaya a hacer con los datos biométricos, las posibles brechas de seguridad que permitan accesos no autorizados a las bases de datos y las controvertidas implementaciones para la vigilancia masiva que se han realizado en la gran mayoría de los países de la UE.
Las cartas que instan a la Comisión Europea y al Gobierno de España a controlar y regular su uso
Ante los graves problemas de estos sistemas y su rápida proliferación, cada vez hay más organizaciones de derechos civiles y tecnólogos de todo el mundo que están alzando su voz para exigir que se controle y se regule su uso.
España, que carece de una normativa específica y se atiene a lo que indica el Reglamento europeo de Protección de Datos (RGPD), es uno de los países en los que se han escuchado voces críticas. Sin ir más lejos a finales del pasado mes de marzo, a raíz de que se conociera que Renfe planeaba implementar reconocimiento y análisis facial en sus estaciones. Esta noticia, que finalmente no prosperó, impulsó a 70 académicos e investigadores a escribir una carta al Gobierno de España en la que profundizaban sobre la problemática que rodea a estas herramientas y pedían "una comisión de investigación que estudie la necesidad de establecer una moratoria en el uso y comercialización de sistemas de reconocimiento facial de empresas públicas y privadas".
"La preocupación que motiva esta carta tiene que ver con los potenciales efectos perniciosos que estos sistemas pueden tener sobre el bienestar, los intereses y las necesidades y derechos fundamentales de la población española en general. Por ello nos parece necesario que el Gobierno intervenga de manera rápida antes de que estos sistemas continúen expandiéndose y se conviertan en estándares de facto, a pesar de la intromisión que suponen en la esfera privada de las personas sin su consentimiento explícito. Están en juego cuestiones fundamentales de justicia social, dignidad humana, equidad, igualdad en el trato e inclusión", señala la carta.
Los firmantes citan varios ejemplos del uso problemático de esta tecnología y manifiestan que, "debido a las graves deficiencias y riesgos que presentan estos sistemas, los posibles beneficios que quizás podrían ofrecer no compensan de ninguna manera sus potenciales efectos negativos, en especial para los grupos y colectivos que suelen sufrir injusticias y tratos discriminatorios". Por todo ello, solicitan una comisión de investigación "independiente" y formada por "científicos, juristas, expertos en ética e inteligencia artificial y miembros de la sociedad civil, especialmente de aquellos colectivos que pueden verse prima facie afectados por estos sistemas".
Por el momento, el Gobierno de España no ha hecho ninguna declaración respecto a esta solicitud y es probable que esté esperando al próximo 21 de abril, fecha en que se espera que la Comisión Europea publique nuevas normas sobre el uso ético de la inteligencia artificial en el Continente. El órgano ejecutivo de la UE también ha recibido presiones al respecto este mismo mes, otra carta abierta escrita por un grupo de 51 organizaciones de derechos digitales que le pide que imponga una prohibición total del uso de tecnologías de reconocimiento facial para la vigilancia masiva, sin excepciones permitidas.
"Siempre que una tecnología biométrica implique vigilancia masiva, pedimos la prohibición de todos los usos y aplicaciones sin excepción. Creemos que cualquier uso que se dirija de forma indiscriminada o arbitraria a personas en un espacio público siempre, y sin lugar a dudas, va a infringir los derechos fundamentales. Nunca va a alcanzar el umbral de necesidad y proporcionalidad", ha afirmado a Zdnet Ella Jakubowska, responsable de políticas y campañas de la red de defensa de los Derechos Digitales Europeos (EDRi).
Esta carta a la Comisión Europea se suma a un coro de voces activistas que en los últimos años han reclamado acciones similares. Más de 45.000 ciudadanos europeos han firmado una petición llamada "Reclaim Your Face" requiriendo la prohibición de las prácticas de vigilancia masiva biométrica en la UE y, a principios de este año, el Comité consultivo del Convenio de Protección de Datos también pidió que se prohibieran algunas aplicaciones de reconocimiento facial que tienen el potencial de conducir a la discriminación.
La pelota está en manos de las autoridades y, si bien no se puede dudar de la utilidad de estas tecnologías en ciertos aspectos, también parece evidente la necesidad de revisar su uso, de mejorar su funcionamiento y de prohibir aquellas que atenten contra los derechos humanos.