Una reciente investigación llevada a cabo en Princeton con la colaboración de Microsoft, ha puesto de manifiesto que la desinformación online persiste en el objetivo de dirigir la opinión pública, difamar a personalidades o polarizar los debates.
Dicha investigación catalogó 96 campañas de influencia extranjera destinadas a 30 países entre 2013 y 2019. Alrededor del 93% de estas campañas incluyeron la creación de contenido original, el 86% amplificaron contenido preexistente, y el 74% distorsionaron hechos verificables de manera objetiva.
La pandemia de la Covid-19 también se ha situado en el focode las campañas de desinformación, causando hospitalizaciones y muertes depersonas que, buscando posibles tratamientos, han puesto en riesgo su salud porseguir recomendaciones peligrosas.
Para luchar contra estas circunstancias, Microsoft acaba deanunciar nuevas tecnologías enfocadas en combatir la desinformación, así comocolaboraciones para seguir progresando en el desarrollo tecnológico en esteámbito, e iniciativas para ayudar a la sociedad a comprender el impacto quegenera y a diferenciar los contenidos originales de los deepfakes.
Video Authenticator, la herramienta de Microsoft contra los deepfakes
Los deepfakes, es decir, fotos, vídeos o archivos de audio manipulados por inteligencia artificial (IA) con mucha precisión, de forma que es difícil detectar su edición, suponen un serio peligro para la sociedad.
A pesar de que todavía tienen una barrera que solventar para ser realmente eficaces a la hora de cometer estafas, Microsoft advierte que pueden iniciar campañas con material audiovisual falseado de personajes públicos, situándolos en situaciones irreales o realizando declaraciones que nunca han hecho.
Para evitarlo, Microsoft ha anunciado Video Authenticator, una plataforma inteligente que puede analizar una foto o un vídeo para proporcionar un porcentaje de probabilidad, o una calificación de confianza frente a manipulaciones. En el caso de un vídeo, indica este porcentaje real sobre cada frame a medida que se va reproduciendo, identificando así elementos que quizá no puedan ser detectados por el ojo humano.
Video Authenticator fue desarrollada inicialmente por Microsoft Research, en coordinación con el equipo de Inteligencia Artificial Responsable de Microsoft, y el Comité de IA, Ética y efectos en ingeniería e investigación (AETHER, por sus siglas en inglés) de Microsoft.
También lanza una nueva tecnología para el contenido manipulado
Además de VideoAuthenticator, Microsoft ha anunciado el lanzamiento de una nuevatecnología que puede detectar contenido manipulado y garantizar a los usuariosque los contenidos que visualizan son auténticos.
"Esta tecnologíatiene dos componentes. El primero es una herramienta integrada en MicrosoftAzure, que permite a los productores de contenido agregar hashes (que identifican los archivosde forma inequívoca) y certificados a sus piezas, quedando integrados en susmetadatos y dejando una huella de confianza allá donde se alojen los ficherosonline. El segundo es un lector, que puede utilizarse como una extensión denavegador o en otras formas alternativas, que precisamente verifica la huellaincluida en los archivos para que los consumidores de contenido, con alto gradode precisión, puedan saber que el contenido es auténtico y que no ha sidomodificado, así como proporcionar detalles sobre quién lo produjo", haexplicado la compañía.
Esta tecnología ha sido desarrollada por Microsoft Research y Microsoft Azure, en colaboración con el Programa Defending Democracy, y va a impulsar una iniciativa anunciada recientemente por la BBC, llamada Project Origin.
"Socios" para luchar contra la desinformación
Para maximizar su impacto en la lucha contra la desinformación y los deepfakes, Microsoft ha impulsado varias asociaciones.
Entre ellas destaca la colaboración con AI Foundation, una empresa dual, comercial y sin ánimo de lucro, ubicada en San Francisco, con la misión de llevar el potencial y la protección de la IA a todas las personas del mundo.
Mediante esta asociación, la iniciativa de AI Foundation Reality Defender 2020 (RD2020), pondrá Video Authenticator a la disposición de las organizaciones involucradas en el proceso democrático, incluidos nuevos medios y campañas políticas.
En un principio, Video Authenticator solo estará disponible en RD2020, que guiará a las organizaciones a través de las limitaciones y consideraciones éticas inherentes en cualquier tecnología de detección de deepfakes.
Microsoft también se ha asociado con un consorcio de compañías de medios, que incluyen a la BBC, a CBC/Radio-Canada y al New York Times, en Project Origin, que utilizará la tecnología de autenticación y ayudará a avanzar en un estándar que pueda ser adoptado de manera amplia.
Además, la iniciativa Trusted News, que incluye a un amplio grupo de editoriales y compañías de redes sociales, también va probar la tecnología.
Ha seguido trabajando en NewsGuard
En los últimos meses, Microsoft también ha ampliado considerablemente su implementación de NewsGuard, un servicio que permite a las personas tener más detalles sobre las fuentes de noticias online antes de consumir sus contenidos.
"NewsGuard cuentacon la colaboración de un equipo de periodistas experimentados que calificanlas webs de noticias basándose en nueve criterios de integridad periodística,que utilizan para crear tanto una etiqueta cualitativa como una clasificación"rojo/verde" para cada sitio web de noticias evaluado. Microsoft notiene control editorial sobre ninguna de las calificaciones de NewsGuard y laextensión no limita el acceso a la información de ninguna forma. En su lugar,NewsGuard busca brindar mayor transparencia e invitar a la 'alfabetizaciónmediática' al ofrecer un contexto relevante sobre la fuente de noticias",ha señalado la compañía.
Cualquier usuario puede acceder a NewsGuard a través de la descarga de una extensión de navegador, que está disponible para todos los navegadores estándar y es gratuita para Microsoft Edge.