Ya no hacen falta vídeos sexuales filtrados por ex novios celosos. Una app que puede convertirse en muy peligrosa para niñas y jóvenes ya puede poner en peligro la identidad de niñas, mujeres y adolescentes mediante la tecnología Deep Fake. Lo publica MIT Review que describe así la aparente limpieza de un sitio web que puede convertirse en la peor pesadilla de muchas mujeres que cometan la imprudencia de usarlo, o cuyas caras sean usadas. " Sobre un fondo blanco, un botón azul gigante invita a los visitantes a subir una foto de un rostro. Debajo del botón, cuatro caras generadas por IA le permiten probar el servicio. Por encima de él, el eslogan proclama audazmente el propósito: convertir a cualquiera en una estrella del porno mediante el uso de tecnología deepfake para cambiar la cara de la persona por un video para adultos. Todo lo que necesita es la imagen y presionar un botón".
MIT Technology Review ha considerado tan grave esta iniciativa que se negado a dar nombre al servicio, para no darle tráfico. Ha sido descubierto por el investigador Henry Ajder, quien ha seguido la evolución y el auge de los medios sintéticos en línea. Siempre se temió que saliera una aplicación como esta, que cruza una línea ética que ningún otro servicio de internet se ha atrevido a traspasar.
El 95% de los vídeos deepfake en linea son porno no consensuado
Según detalla MIT Review, no es la primera vez que se utilizan deepfakes, oinstrumentos generados por IA,para crear representaciones pornográficas de víctimas que, al descubrirlo, han sufrido graves trastornos. La compañía de investigación Sensity AI estima que entre el 90% y el 95% de todos los videos deepfake en línea son pornografía no consensuada, y alrededor del 90% de esos vídeos incluyen mujeres. “Este tipo de abuso, donde la gente tergiversa su identidad, nombre, reputación y la alteran de formas tan violentas, lo destroza hasta la médula”, ha manifestado Noelle Martin, una activista australiana que ha sido blanco de una campaña de pornografía deepfake. En algunos países donde la homosexualidad está perseguida, algunos hombres pueden ver peligrar su vida si alguien los coloca en un vídeo porno.
Existen herramientas que permiten a los usuarios fantasear con las imágenes de mujeres a las que quitan la ropa mediante IA. Son de código abierto y circulan por la red. Un site que no ha sido desconectado aún tuvo más de 6,7 millones de visitas en el mes de agosto.
Los legisladores no han prestado apenas atención hasta ahora al porno deepfake, del que son víctimas miles de mujeres sin saberlo. Ahora se supone que su uso, por parte de las personas que aparecen,es a demanda mediante esta nueva app, que se publicita como una herramienta segura y responsable para explorar las fantasías sexuales de los voluntarios y voluntarias.
Pide a lo usuarios que suban sus caras, pero nade puede impedir que se suba la cara de otra persona. Va dirigida expresamente a cargar imágenes femeninas, pero hay un pequeño apartado de vídeos porno gay a los que subir también caras de hombre. El usuario puede seleccionar cualquier video pornográfico de la "biblioteca" para generar una vista previa del resultado del intercambio de caras en segundos, y pagar para descargar la versión completa.