Google ha lanzado la herramienta Know Your Data para ayudar a comprender los datos que entrenan la IA y de esta forma evitar sesgos.
Pretende así ayudar a los creadores de nuevos algoritmos de Inteligencia Artificial (IA) a que comprendan mejor los datos que utilizan para entrenarlos y evitar diversos problemas, según informa Europa Press.
La nueva herramienta de Google, que se incorpora a su kit de herramientas de IA responsable, tiene el objetivo de mejorar la calidad de los datos que se usan para el aprendizaje automático, ayudando a mitigar problemas como los sesgos por edad, sexo o raza, como ha informado la compañía en un comunicado difundido por la citada agencia.
'Know Your Data' ofrece una serie de funciones que permiten a los usuarios explorar y examinar los conjuntos de datos utilizados para el aprendizaje automático. Es posible filtrarlos, agruparlos y estudiar las correlaciones basándose en anotaciones ya presentes en las bases de datos. Puede servir para evitar los estereotipos.
Google ha demostrado el funcionamiento de Know your data evidenciando la existencia de sesgos de género al mostrar, por ejemplo, que hay pocas mujeres practicando skate pero muchas en las que ejercen de amas de casa en las imágenes de Coco Captions
La herramienta también proporciona a los usuarios etiquetas generadas automáticamente por la API en la nube de Google Cloud Vision, de una forma que permite acceder a señales no presentes en la base de datos original.
Google ha demostrado el funcionamiento de su herramienta utilizando la base de datos COCO Captions, con 300.000 imágenes de personas y anotaciones sobre ellas.
De esta manera, ha evidenciado la existencia de sesgos de género en las actividades que hacen los sujetos fotografiados y también en las anotaciones que las describen.
Entre estos sesgos se encuentra la escasez de imágenes de mujeres interpretando música, practicando 'skate', saltando o haciendo 'snowboard', mientras que ellas son mayoritarias en actividades como cocinar o hacer la compra. Además, las descripciones de las imágenes dejan entrever una mirada masculina, ya que a ellas se las asocia más con adjetivos como 'atractiva' o 'sexy'.
Otro sesgo que ha confirmado 'Know Your Data' a partir de la base de datos analizada es el sesgo de edad, con un menor número de personas mayores de 65 años realizando actividades como bailar, nadar o jugar con respecto a las personas jóvenes.