La compañía de tecnología de seguridad Jigsaw, perteneciente a Alphabet (matriz de Google), ha puesto a disposición de los usuarios de forma gratuita la herramienta de código abierto Altitude, que permite a las pequeñas y medianas plataformas abordar el contenido terrorista, extremista y potencialmente violento (TVEC, por sus siglas en inglés) en sus servicios.
Anunciada el pasado mes de noviembre según adelantaron medios como Wired, Altitude permite acceder a estas organizaciones a una vista única y elevada del contenido TVEC incluido en ellas. Una vez recopilada esta información, se lo proporciona para su evaluación y les ayuda a tomar decisiones en materia de moderación.
Elaborada por la incubadora Jigsaw, que anteriormente se conocía como Google Ideas, esta solución se ha desarrollado en colaboración con el Foro Global de Internet para Contrarrestar el Terrorismo (GIFCT) y ya está disponible públicamente.
Desafío
Altitude forma parte del conjunto de soluciones de la red Tech Against Terrorism, que apoya a la industria tecnológica en el desarrollo de herramientas más efectivas para abordar la difusión de contenido dañino en Internet.
Jigsaw ha reconocido en X que “los grupos terroristas y extremistas violentos apuntan cada vez más a plataformas más pequeñas para difundir contenidos ideológicamente alineados”. Por ese motivo, identificarlos y eliminarlos “se ha convertido en un gran desafío para los servicios especializados más pequeños”.
La compañía ha estudiado cómo la actividad terrorista y extremista onlin' “puede tener graves efectos en el mundo real”. Con ello, ha señalado que se da un efecto boomerang cuando el contenido extremista se elimina de las grandes plataformas, ya que resurge en espacios menos moderados y regresa a los originales a pesar de contar con herramientas de moderación, tal y como ha mencionado en su blog en Medium.
Priorizar las alertas TVEC
Para que las plataformas refuercen la protección de la seguridad de los usuarios, ha creado “una herramienta que pudiera satisfacer las necesidades de las plataformas en cada situación” y, a su vez, permitir que se preparen y tengan la capacidad para responder ante estos contenidos.
Para ello, Altitude les ayuda a priorizar las alertas de contenido TVEC mediante el uso de la tecnología de hash y coincidencia de Meta para hacer coincidir las imágenes de una plataforma determinada con el que recogen la Plataforma de análisis de contenido terrorista (TCAP) de Tech Against Terrorism y la Base de datos de intercambio de hash (HSDB) de GIFCT.
Asimismo, la herramienta aprovecha los componentes de Prisma, un sistema de diseño desarrollado por el equipo de Experiencia del usuario de Google Trust and Safety; unos componentes de diseño que ya son públicos para cualquier plataforma “por primera vez”, según este escrito.
Compartir información
Una vez instalada Altitude, cuyo código se puede descargar gratuitamente desde GitHub, estas empresas pueden integrarla en sus propias plataformas “para comprender mejor el contexto más amplio de las amenazas potenciales y la legislación en evolución”.
Jigsaw ha dicho finalmente que, a medida que más plataformas usan esta herramienta y contribuyen a las bases de datos comentadas, esto podría conducir a un “círculo virtuoso” en el que las partes implicadas pueden compartir información sobre contenido dañino y aquel que no lo es.