El deepfake es una técnica de manipulación de audio, video e imágenes que utiliza la inteligencia artificial y el machine learning dando como resultado un contenido ficticio pero extremadamente realista y verdaderamente difíciles de distinguir.
Su término proviene del concepto "deep" referente al deep learning (aprendizaje profundo) y "fake" (falso), y es un avance tecnológico que desde hace tiempo se viene utilizando en diferentes ámbitos como son el cinematográfico, el empresarial, el social o el educativo. Sin embargo, el nivel de precisión y verosimilitud de los deepfakes es cada vez mayor y también han sido ampliamente usados con intenciones maliciosas.
Algunos de sus principales peligros son que pueden utilizarse para difundir noticias falsas o "fake news", para suplantar la identidad de famosos o de cualquier otra persona, para convertir a mujeres en protagonistas de escenas pornográficas o para llevar a cabo estafas, como la que cometieron unos hackers que consiguieron robar 400.000 euros.
Ante estos serios riesgos, ya han tomado medidas varios gigantes tecnológicos, que incluyen a Facebook, TikTok, Reddit, Instagram, Youtube o Microsoft. Y ahora, Europol también ha puesto el foco sobre los deepfakes en su primer informe sobre esta tecnología, en el cual advierte que tienen un enorme potencial para el crimen organizado y que podrían convertirse en una herramienta básica de uso delictivo.
El informe, que ha sido publicado este mismo jueves, ha sido realizado por el Laboratorio de Innovación de Europol y lleva por título "Facing Reality? Law enforcement and the challenge of deepfakes" ("¿Hacer frente a la realidad? La aplicación de la ley y el desafío de los deepfakes"). En él se incluyen varios ejemplos que evidencian que la tecnología deepfake puede facilitar diversas actividades como las que hemos señalado y estas otras:
- Acoso o humillación a personas en internet.
- Extorsión
- Fraude de documentos.
- Explotación sexual infantil en internet.
- Falsificación o manipulación de pruebas electrónicas para investigaciones de justicia penal.
- Perturbación de los mercados financieros.
- Manipulación de la opinión pública.
- Apoyar los discursos de grupos extremistas o terroristas.
- Avivar el malestar social y la polarización política.
"Los avances en inteligencia artificial y la disponibilidad pública de grandes bases de datos de imágenes y videos significan que el volumen y la calidad del contenido deepfake están aumentando, lo que facilita la proliferación de delitos que aprovechan la tecnología deepfake", alerta la agencia policial de la Unión Europea.
"Por lo tanto, los organismos encargados de hacer cumplir la ley deben ser conscientes de las falsificaciones profundas y su impacto en el futuro trabajo policial", apunta.
Insta a las fuerzas del orden y a servicios de internet a plantar cara a los deepfakes
El informe de Europol también advierte que la detección y prevención de los deepfakes debe ser "la máxima prioridad de las fuerzas del orden". En este sentido, argumenta que deberán mejorar las habilidades y tecnologías a disposición de los agentes y que igualmente tienen que evaluar sus políticas y prácticas actuales, y adaptarlas para estar preparados para la nueva realidad de los deepfakes.
"Las actividades de prospectiva estratégica llevadas a cabo por el Laboratorio de Innovación de Europol identificaron una serie de desafíos que tendrán que enfrentar las agencias de aplicación de la ley en la próxima década. En particular, identificaron riesgos asociados a la transformación digital, la adopción y despliegue de nuevas tecnologías, el abuso de la tecnología emergente por los delincuentes, acomodando nuevas formas de trabajar y mantener confianza ante un aumento de la desinformación.
"En los próximos meses y años, es muy probable que los actores de amenazas harán un uso cada vez mayor de la tecnología deepfake para facilitar varios actos delictivos y realizar campañas de desinformación para influir o distorsionar la opinión pública", afirma el informe en su conclusión, y apunta:
"El aumento en el uso de deepfakes requerirá legislación para establecer directrices y exigir su cumplimiento. Además, las redes sociales y otros proveedores de servicios en internet deberían desempeñar un papel más importante en identificar y eliminar contenido deepfake de sus plataformas. A medida que el público se eduque más sobre los deepfakes, habrá una creciente preocupación en todo el mundo por su impacto en las personas, comunidades y democracias".