Los sistemas de reconocimiento facial son un tipo de tecnología biométrica que, como os contamos el pasado 9 de abril en un extenso reportaje, se utilizan en 109 países del mundo con fines de vigilancia pero que a la vez generan una enorme controversia porque su uso puede vulnerar derechos humanos, como el derecho a la privacidad, a la protección de datos o a la no discriminación, ya que pueden ser racistas, sexistas o clasistas.
En este reportaje, también os contamos que estaba previsto que la Comisión Europea (CE) publicara nuevas normas sobre el uso ético de la Inteligencia Artificial (IA) el 21 de abril, y así fue. Ese mismo día presentó su primera propuesta de legislación sobre la utilización de la IA en Europa , que impone obligaciones para las aplicaciones que considera de "alto riesgo" e incluso su prohibición.
Este reglamento es el resultado de un intenso debate que se ha prolongado durante tres años y todavía tiene que ser aprobado por los Gobiernos de la UE y la Eurocámara en un proceso que puede extenderse más de un año. No obstante, las dos agencias de privacidad de la Unión Europea – el Comité Europeo de Protección de Datos (EDPB) y el Supervisor Europeo de Protección de Datos (EDPS) – han pedido este mismo lunes que este proyecto de reglamento vaya más allá del que se ha planteado y se prohíba el uso del reconocimiento facial en espacios públicos.
Prohibición en lugar de restricciones con excepciones
Si bien la propuesta de la CE contiene restricciones al uso de la vigilancia biométrica en lugares públicos, también habla de permitir la utilización de aplicaciones de IA en áreas de alto riesgo, como la gestión de la migración o la administración de justicia. Lo hace estableciendo unos requisitos estrictos, pero la EDPB y el EDPS coinciden en que el uso de IA para el rastreo social debería estar directamente prohibido.
" Teniendo en cuenta los riesgos extremadamente elevados que plantea la identificación biométrica remota de personas en espacios de acceso público, el EDPB y el EDPS piden una prohibición general de cualquier uso de la inteligencia artificial para el reconocimiento automático de características humanas en espacios de acceso público, como el reconocimiento de rostros, la forma de andar, las huellas dactilares, el ADN, la voz, las pulsaciones de teclas y otras señales biométricas o de comportamiento, en cualquier contexto", señalan en un dictamen conjunto.
Ambos organismos también recomiendan la prohibición de los sistemas de IA que usan datos biométricos para categorizar a las personas "según su origen étnico, género, orientación política o sexual" u otros motivos de clasificación bajo los cuales podrían ser discriminados en virtud del artículo 21 de la Carta de los Derechos Fundamentales. Además, consideran que "el uso de la IA para inferir las emociones de una persona física es altamente indeseable y debería prohibirse", excepto en casos muy específicos como ciertos motivos médicos.
La EDPB y el EDPS acogen favorablemente el enfoque que sustenta la propuesta de la CE, el cual está basado en el "riesgo para los derechos fundamentales". Sin embargo, advierten que debe alinearse con la legislación europea de protección de datos (RGPD, EUDPR y LED) y que esta incluye el ámbito de aplicación del proyecto de Reglamento sobre IA.
"Interfieren con los derechos y libertades fundamentales"
Los presidentes de los organismos de control de privacidad de la UE, Andrea Jelinek (EDPB) y Wojciech Wiewiórowski (EDPS), han consensuado esta declaración en la que justifican su dictamen y lanzan otras recomendaciones.
"La implementación de los sistemas de reconocimiento biométricos en espacios públicos significa el fin del anonimato en esos lugares. Aplicaciones como los sistemas de reconocimiento facial interfieren con los derechos y libertades fundamentales hasta tal punto que pueden cuestionar la esencia de estos derechos y libertades. Esto requiere una aplicación inmediata del enfoque de precaución. Una prohibición general del uso del reconocimiento facial en áreas de acceso público es el punto de partida necesario si queremos preservar nuestras libertades y crear un marco legal centrado en el ser humano para la IA. El reglamento propuesto también debería prohibir cualquier tipo de uso de la IA para la puntuación social, ya que va en contra de los valores fundamentales de la UE y puede provocar discriminación".
Supervisor Europeo de Protección de Datos y la AEPD
Por otra parte, ambos organismos celebran que la propuesta de la CE designe al Supervisor Europeo de Protección de Datos como la autoridad encargada de vigilar el uso de este tipo de tecnologías por parte de las instituciones europeas. No obstante, plantean que es conveniente que sus funciones y obligaciones "se clarifiquen un poco más, especialmente en lo que respecta a su papel como autoridad reguladora del mercado".
En este sentido, cabe señalar que las agencias de protección de datos nacionales ya están vigilando el despliegue de sistemas de IA que implican el tratamiento de datos personales. En España es la AEPD y un ejemplo de sus actuaciones es el procedimiento que abrió en julio del año pasado contra Mercadona después de que la firma de supermercados confirmase en un comunicado que había instalado cámaras de reconocimiento facial en al menos 40 de sus tiendas.
Según explicó entonces la cadena de Juan Roig, su objetivo era detectar "única y exclusivamente" a personas con sentencia firme o medida cautelar de orden de alejamiento de la tienda o de sus trabajadores. Pero hace unos días la Audiencia de Barcelona le negó la autorización para utilizar su sistema de reconocimiento facial, a expensas de que la propia AEPD también se pronuncie al respecto.