Enfocadas en detectar deepfakes y contenido manipulado

Microsoft anuncia nuevas tecnologías para luchar contra la desinformación

11

Una reciente investigación llevada a cabo en Princeton con la colaboración de Microsoft, ha puesto de manifiesto que la desinformación online persiste en el objetivo de dirigir la opinión pública, difamar a personalidades o polarizar los debates.

Dicha investigación catalogó 96 campañas de influencia extranjera destinadas a 30 países entre 2013 y 2019. Alrededor del 93% de estas campañas incluyeron la creación de contenido original, el 86% amplificaron contenido preexistente, y el 74% distorsionaron hechos verificables de manera objetiva.

La pandemia de la Covid-19 también se ha situado en el foco de las campañas de desinformación, causando hospitalizaciones y muertes de personas que, buscando posibles tratamientos, han puesto en riesgo su salud por seguir recomendaciones peligrosas.

Para luchar contra estas circunstancias, Microsoft acaba de anunciar nuevas tecnologías enfocadas en combatir la desinformación, así como colaboraciones para seguir progresando en el desarrollo tecnológico en este ámbito, e iniciativas para ayudar a la sociedad a comprender el impacto que genera y a diferenciar los contenidos originales de los deepfakes.

Video Authenticator, la herramienta de Microsoft contra los deepfakes

Los deepfakes, es decir, fotos, vídeos o archivos de audio manipulados por inteligencia artificial (IA) con mucha precisión, de forma que es difícil detectar su edición, suponen un serio peligro para la sociedad.

A pesar de que todavía tienen una barrera que solventar para ser realmente eficaces a la hora de cometer estafas, Microsoft advierte que pueden iniciar campañas con material audiovisual falseado de personajes públicos, situándolos en situaciones irreales o realizando declaraciones que nunca han hecho.

Para evitarlo, Microsoft ha anunciado Video Authenticator, una plataforma inteligente que puede analizar una foto o un vídeo para proporcionar un porcentaje de probabilidad, o una calificación de confianza frente a manipulaciones. En el caso de un vídeo, indica este porcentaje real sobre cada frame a medida que se va reproduciendo, identificando así elementos que quizá no puedan ser detectados por el ojo humano.

Video Authenticator fue desarrollada inicialmente por Microsoft Research, en coordinación con el equipo de Inteligencia Artificial Responsable de Microsoft, y el Comité de IA, Ética y efectos en ingeniería e investigación (AETHER, por sus siglas en inglés) de Microsoft.

También lanza una nueva tecnología para el contenido manipulado

Además de Video Authenticator, Microsoft ha anunciado el lanzamiento de una nueva tecnología que puede detectar contenido manipulado y garantizar a los usuarios que los contenidos que visualizan son auténticos.

“Esta tecnología tiene dos componentes. El primero es una herramienta integrada en Microsoft Azure, que permite a los productores de contenido agregar hashes (que identifican los archivos de forma inequívoca) y certificados a sus piezas, quedando integrados en sus metadatos y dejando una huella de confianza allá donde se alojen los ficheros online. El segundo es un lector, que puede utilizarse como una extensión de navegador o en otras formas alternativas, que precisamente verifica la huella incluida en los archivos para que los consumidores de contenido, con alto grado de precisión, puedan saber que el contenido es auténtico y que no ha sido modificado, así como proporcionar detalles sobre quién lo produjo”, ha explicado la compañía.

Esta tecnología ha sido desarrollada por Microsoft Research y Microsoft Azure, en colaboración con el Programa Defending Democracy, y va a impulsar una iniciativa anunciada recientemente por la BBC, llamada Project Origin.

“Socios” para luchar contra la desinformación

Para maximizar su impacto en la lucha contra la desinformación y los deepfakes, Microsoft ha impulsado varias asociaciones.

Entre ellas destaca la colaboración con AI Foundation, una empresa dual, comercial y sin ánimo de lucro, ubicada en San Francisco, con la misión de llevar el potencial y la protección de la IA a todas las personas del mundo.

Mediante esta asociación, la iniciativa de AI Foundation Reality Defender 2020 (RD2020), pondrá Video Authenticator a la disposición de las organizaciones involucradas en el proceso democrático, incluidos nuevos medios y campañas políticas.

En un principio, Video Authenticator solo estará disponible en RD2020, que guiará a las organizaciones a través de las limitaciones y consideraciones éticas inherentes en cualquier tecnología de detección de deepfakes.

Microsoft también se ha asociado con un consorcio de compañías de medios, que incluyen a la BBC, a CBC/Radio-Canada y al New York Times, en Project Origin, que utilizará la tecnología de autenticación y ayudará a avanzar en un estándar que pueda ser adoptado de manera amplia.

Además, la iniciativa Trusted News, que incluye a un amplio grupo de editoriales y compañías de redes sociales, también va probar la tecnología.

Ha seguido trabajando en NewsGuard

En los últimos meses, Microsoft también ha ampliado considerablemente su implementación de NewsGuard, un servicio que permite a las personas tener más detalles sobre las fuentes de noticias online antes de consumir sus contenidos.

“NewsGuard cuenta con la colaboración de un equipo de periodistas experimentados que califican las webs de noticias basándose en nueve criterios de integridad periodística, que utilizan para crear tanto una etiqueta cualitativa como una clasificación “rojo/verde” para cada sitio web de noticias evaluado. Microsoft no tiene control editorial sobre ninguna de las calificaciones de NewsGuard y la extensión no limita el acceso a la información de ninguna forma. En su lugar, NewsGuard busca brindar mayor transparencia e invitar a la ‘alfabetización mediática’ al ofrecer un contexto relevante sobre la fuente de noticias”, ha señalado la compañía.

Cualquier usuario puede acceder a NewsGuard a través de la descarga de una extensión de navegador, que está disponible para todos los navegadores estándar y es gratuita para Microsoft Edge.

Artículo
Microsoft anuncia nuevas tecnologías para luchar contra la desinformación
Nombre
Microsoft anuncia nuevas tecnologías para luchar contra la desinformación
Descripcion
El gigante tecnológico va a lanzar nuevas herramientas enfocadas en detectar deepfakes y contenido manipulado para combatir así la desinformación.
Autor
Publico
Escudo Digital
Logo