Según ha informado Reuters

Google impone políticas restrictivas para dar una buena imagen sobre sus sistemas de IA

242

Menos de un mes después de la abrupta y polémica salida de Google de Timnit Gebru, investigadora de raza negra que aseguró que fue despedida por denunciar los prejuicios en la Inteligencia Artificial (IA) del buscador, Reuters ha sacado a la luz una nueva información que refleja parte de la censura ejercida por la compañía.

Según informa, citando a investigadores de la empresa y documentos internos, Google ha reforzado el control sobre su equipo de investigación y sobre los artículos que publican implementado un proceso de revisión de “temas sensibles”. Además, el citado medio asegura que la empresa también ha pedido a sus investigadores que “den un tono positivo” a sus publicaciones y que, hasta en tres ocasiones, les ha solicitado que se abstengan de dar una imagen negativa sobre su tecnología.

Siguiendo la información de Reuters, el nuevo procedimiento de revisión de Google entró en vigor en junio y supone que los investigadores deban reunirse con los equipos legales, de políticas y de relaciones públicas antes de realizar investigaciones de inteligencia artificial sobre los llamados “temas sensibles”. Estos temas incluyen la raza, el género, la afiliación política, la religión, el análisis facial, la Covid-19, la industria petrolera, la seguridad del hogar, China, Israel, Irán, entre otros más.

“Los avances en tecnología y la creciente complejidad de nuestro entorno externo están conduciendo cada vez más a situaciones en las que proyectos aparentemente inofensivos plantean problemas éticos, de reputación, regulatorios o legales”, recoge un documento remitido por Google a sus investigadores, al que ha tenido acceso Reuters.

Ejemplo de esta nueva política restrictiva de Google

Reuters aporta un ejemplo sobre los efectos de esta nueva política restrictiva de Google. En concreto, en un caso en el que los investigadores mostraron su preocupación sobre los contenidos que recomienda a Youtube a sus usuarios.

Según indicaban, la tecnología de esta plataforma, propiedad de Google, puede promover “desinformación, resultados discriminatorios o injustos” y una “insuficiente diversidad de contenido”, así como conducir a una “polarización política”. Sin embargo, la publicación final asegura que los sistemas pueden promover “información precisa, equidad y diversidad de contenido” y omitió el crédito a los investigadores de Google, en una decisión que Reuters no ha podido justificar.

Cuatro investigadores de Google validan las afirmaciones de Gebru

En su artículo, Reuters también señala que ha hablado con cuatro investigadores de Google que validaron las afirmaciones de Tinnit Gebru, señalando que ellos también creen que la compañía está comenzando a interferir con estudios cruciales sobre posibles daños tecnológicos.

“Si estamos investigando lo apropiado dada nuestra experiencia, y no se nos permite publicarlo por motivos que no están en línea con la revisión de alta calidad, entonces nos adentramos en un serio problema de censura”, advirtió Margaret Mitchell, investigadora senior de Google.

Google, por su parte, se ha negado a hacer ninguna declaración respecto a esta información de Reuters.

Artículo
Google impone políticas restrictivas para dar una buena imagen sobre sus sistemas de IA
Nombre
Google impone políticas restrictivas para dar una buena imagen sobre sus sistemas de IA
Descripcion
Según Reuters, la compañía ha implementado un proceso de revisión de "temas sensibles" y ha pedido a sus investigadores que "den un tono positivo" a sus publicaciones.
Autor
Publico
Escudo Digital
Logo