Los sistemas de Inteligencia Artificial asumen cada vez tareas más relevantes. Se usan para identificar los barrios más conflictivos, filtrar currículos en un proceso de selección de personal o incluso asumir las funciones de un fiscal. La preocupación por las decisiones que puedan tomar determinados algoritmos es creciente entre ciudadanos e instituciones de la Unión Europea
En este sentido, cinco son las áreas consideradas de alto impacto: salud, empleo, educación, seguridad, servicios sociales o justicia. Para regular o revisar los algoritmos que se emplean en estos sectores la UE prepara una directiva que, previsiblemente, contemplará medidas de supervisión para los sistemas de IA que se apliquen a actividades en las que se debe exigir un margen de error algorítmico mínimo.
Con el fin de adelantarse a estas exigencias, dos empresas españolas se han unido para desarrollar algoritmos éticos y responsables, que tratarán de pulir los posibles efectos negativos del sistema desde antes de que se ponga en marcha, garantizando unos resultados más limpios.
Así, la compañía tecnológica Sngular, cotizada en BME Growth, ha alcanzado un acuerdo de colaboración con Eticas, empresa especializada en auditar algoritmos, para desarrollar soluciones de Inteligencia Artificial ética y responsable aplicada a la salud, el empleo, la educación, la seguridad, los servicios sociales y la justicia.
Limitado margen de error
Dado el limitado margen de error, las compañías crearán una metodología conjunta de trabajo en proyectos de terceros que desarrollará, supervisará y auditará los algoritmos de los sistemas de datos en estos contextos de alto riesgo.
Sngular y Eticas trabajan con tecnologías como el ‘machine learning’, ‘deep learning’, el procesamiento de lenguaje natural o ‘computer vision’, en áreas como la biometría y el reconocimiento facial, los asistentes conversacionales (chatbots) o dispositivos ‘smart’ con capacidad de almacenamiento de datos como cámaras, sensores y CCTV.
En declaraciones recogidas por Europa Press, la directora de Inteligencia Artificial de Sngular, Nerea Luis, ha destacado que la metodología facilitará cumplir con el marco legal y acelerar y aportar solidez a los proyectos en el paso de prueba a producción.
Por su parte, la consejera delegada de Eticas, Gemma Galdón, ha destacado que los algoritmos cada vez toman decisiones sobre aspectos más importantes de nuestras vidas sin ser conscientes de que existen.