Fallos de la IA en el reconocimiento facial con mascarillas y en la detección de fraudes

Guardar

Inteligencia Artificial (IA)
Inteligencia Artificial (IA)

Algunas compañías que ofrecen servicios tecnológicos enEspaña han reconocido que sus algoritmos de Inteligencia Artificial (IA) hanexperimentado fallos de funcionamiento debido a los cambios bruscos en elcomportamiento de las personas causados por la pandemia de coronavirus. Algosimilar ha ocurrido en los desarrolladores de IA del resto del mundo. Fallos yerrores que afectan, fundamentalmente, al reconocimiento facial con mascarillaso a los sistemas de detección de fraudes.

La pasada semana, según informa Europa Press, una investigación del Instituto Tecnológico de Massachusetts (MIT, Estados Unidos) advirtió sobre este fenómeno. Según los proveedores tecnológicos internacionales, los fallos en la IA han afectado a sectores muy diferentes, desde las recomendaciones de las plataformas de 'streaming' hasta los sistemas de inventarios automatizados de las tiendas.

Compañías que ofrecen servicios IT en España, como Atos Iberia y Fujitsu, han confirmado que estos problemas también se han registrado a nivel local. Su impacto se ha centrado en los mecanismos de reconocimiento facial cuando las personas llevan puestas mascarillas y de forma más general han afectado también a sectores como el comercio, los transportes y la logística.

"Todo algoritmo de IA basa su 'inteligencia' en losdatos que fueron usados para su entrenamiento", ha asegurado CarlosCordero, CTO de Fujitsu. En el caso de los mecanismos de reconocimientofacial, estos se han entrenado con imágenes de caras completas, por lo que eluso de mascarillas como protección frente a la Covid-19 implica problemas.

Para evitarlos, ya existen algunos sistemas de reconocimiento facial que funcionan con mascarilla, como los desarrollados por la compañía barcelonesa Herta y recientemente por el Grupo SPEC, entro otros, este último capaz también de medir la temperatura a distancia.

Con este mismo motivo, otros miembros de la industria a nivelinternacional, como la startup estadounidense Workaround y laUniversidad de Wuhan (China), han comenzado a elaborar bases de datos confotografías de rostros de personas con mascarillas recopiladas a través deInternet, en algunos casos procedentes de imágenes en redes sociales comoInstagram. En ambos casos estos datos se han publicado de forma abierta en laplataforma Github.

Los problemas han afectado también a los móviles iPhone y sudesbloqueo facial Face ID, que no funciona con mascarilla. Por ello, la últimaversión de su sistema operativo móvil, iOS 13.5, ha comenzado a mostrarautomáticamente la pantalla de contraseña.

Esta medida acelera el proceso de acceso para personas quelleven puestas mascarillas contra el coronavirus, ya que evita los segundos deespera mientras el sistema Face ID intenta, sin éxito, reconocer el rostrocubierto del usuario.

Errores en la detección automática de fraudes en relación al uso de tarjetas de crédito

Los errores en la IA debido al cambio de comportamiento enlas personas han afectado también a otras aplicaciones distintas, ya que son "extrapolablesprácticamente a todos los algoritmos de IA que han sido entrenados coninformación que ha cambiado de forma sustancial en unas pocas semanas",ha explicado el CTO de Fujitsu.

Entre los mecanismos de IA que han fallado durante estacrisis se encuentran los sistemas de detección automática de fraude como en eluso de tarjetas de crédito, cálculos de riesgo en el sector financiero,predicciones de la demanda y otros algoritos predictivos que "se hanvisto poco o nada efectivos debido al cambio repentino en el comportamiento dela sociedad confinada en sus casas", como ha admitido Fujitsu.

En esta situación, la industria se encuentra ante ladificultad de adaptar los sistemas de IA para que sigan funcionando a pesar delcontexto excepcional de pandemia. "Se pueden adaptar los algoritmosreentrenándolos con datos actuales, representativos de la nueva situación",ha asegurado en declaraciones a Europa Press José Esteban, director deInnovación de Atos en Iberia.

Para este proceso, según Atos es necesario que los humanossupervisen los resultados obtenidos por los algoritmos automáticos, revisandosus decisiones y anulándolas cuando sea necesario.

No todos los mecanismos de IA, no obstante, han recibido elmismo impacto por la crisis. Aunque "no hay IA que prediga confiabilidad" fenómenos como el coronavirus, "para que la IA nofalle cuando el entorno cambia súbitamente, una posible solución son lossistemas que aprenden continuamente de los datos", ha asegurado Esteban.

En las soluciones que usan un aprendizaje continuo nosupervisado, los sistemas pueden adaptarse por sí solos a un cambio brusco comoel actual, con un uso masivo de la tecnología para el teletrabajo, consumo y elentretenimiento.

Sin embargo, también estos sistemas pueden tener problemas,ya que "no siempre pueden aprender con la rapidez suficiente",según ha apuntado Esteban.

Otro inconveniente derivado de los algoritmos nosupervisados es que "si funcionan muy bien y aprenden continuamente deforma rápida pueden dar lugar a que los sistemas empiecen a tenercomportamiento" y a que, por ejemplo, sus acciones dejen de serpredecibles, como ha concluido el directivo de Atos en Iberia.