El mercado de detección de deepfakes está disparado. Está creciendo a un ritmo del 42% anual, lo que ha supuesto pasar de 5.500 millones de dólares en el año 2023 a 15.700 millones en 2026. Así se recoge en el informe TMT Predictions 2025 elaborado por Deloitte, un análisis de las principales tendencias que afectarán a las empresas y consumidores del sector de Tecnología, Medios y Telecomunicaciones (TMT) a escala global durante los próximos años.
El crecimiento de los deepfakes -contenidos generados por usuarios que pretenden hacer pasar por noticias reales- es tan exponencial que su extensión puede alterar el funcionamiento de medios de comunicación, empresas tecnológicas o redes sociales. Si millones de usuarios pueden crearlos desde un smartphone, ¿cómo podremos controlarlos?
Esta es una de las preguntas que César Martín Lara, socio de Deloitte T&T e IA Líder, se hacía durante la presentación del informe. “En los próximos años será un gran reto distinguir lo que está hecho con IA de lo que no, y lo que es seguro de lo que no”, dijo. Preocupación que se traslada a la sociedad. Ya en otro estudio realizado por Deloitte, un 84% de los encuestados familiarizados con la IA generativa señalaron que los contenidos desarrollados con IAG deben estar siempre claramente etiquetados.
Para los expertos de Deloitte, los esfuerzos para minimizar estos efectos se dividirán en dos grandes categorías: detección de falsificaciones y determinación de la procedencia. Porque, si bien el desarrollo de herramientas sencillas –y en muchos casos gratuitas- de inteligencia artificial generativa puede ayudar a generar deepfakes, también pueden ayudar a identificarlos.
Las empresas tecnológicas suelen utilizar métodos como el aprendizaje profundo y la visión por ordenador para analizar medios sintéticos en busca de indicios de fraude o manipulación, aprovechando modelos de aprendizaje automático para reconocer patrones y anomalías en deepfakes. Estas herramientas también pueden detectar incoherencias en contenidos de vídeo y audio, como sutiles movimientos de los labios o fluctuaciones del tono de voz que no son humanas.
Algunas herramientas de detección de falsificaciones buscan signos de manipulación -o “huellas dactilares”- de herramientas de IA genérica. Otras utilizan un enfoque de “lista blanca” y “lista negra” (manteniendo listas de fuentes fiables y falsificadores conocidos), mientras que otras buscan pruebas de humanidad (en lugar de pruebas de artificio), como el flujo sanguíneo natural, las expresiones faciales y la inflexión vocal.
Las herramientas actuales de detección de deepfakes afirman tener tasas de precisión superiores al 90%. Sin embargo, es bastante probable que los creadores de contenidos ultrafalsos utilicen modelos de IA de código abierto para generar medios que eludan estas medidas. La capacidad de automatizar la generación de contenidos puede desbordar a los detectores actuales, y los sutiles ajustes que las herramientas de IA genérica realizan en los resultados en función de las indicaciones del usuario también pueden utilizarse para ocultar contenidos falsos. Menos eficaces parecen aún los métodos empleados por las redes sociales, máxime cuando algunas están prescindiendo de los verificadores humanos que servían de complemento a la IA.
Establecer la procedencia y la confianza
La otra vía que están explorando algunas empresas consiste en añadir metadatos criptográficos (o marcas de agua digitales) a un archivo multimedia en el momento de su creación. Estos datos se adjuntan al medio, detallan su procedencia y mantienen un registro de todas las modificaciones.
Varias organizaciones tecnológicas y de medios de comunicación se han unido a la Coalition for Content Provenance and Authenticity (C2PA), comprometiéndose a utilizar la norma de metadatos C2PA para que las imágenes generadas por IA puedan verificarse más fácilmente. La tecnología C2PA registra cada paso del ciclo de vida de una imagen, desde la creación inicial hasta el proceso de edición, creando un registro detallado de alteraciones y modificaciones. Con este registro, los medios de comunicación y los usuarios pueden comprobar la fuente de las imágenes y considerar su fiabilidad.
Con todo, y en espera de una regulación que clarifique mejor todas estas cuestiones, las inversiones en tecnología para identificar deepfakes seguirán creciendo. La creación de contenido veraz tendrá un mayor coste para consumidores, anunciantes y creadores.
Otras tendencias para 2025
El informe de Deloitte también recoge otras tendencias relevantes para los próximos doce meses, como el uso de estrategias FinOps para optimizar el gasto en la nube. Deloitte estima que, en 2025, las empresas podrían ahorrar hasta 21.000 millones de dólares mediante la adopción de estas prácticas, reduciendo costes hasta en un 40%.
También se apunta un importante cambio en el modelo de consumo audiovisual de los españoles. Si antes estaban suscritos a unas cuatro plataformas de contenidos, ahora la media en Europa es de dos. “Y es probable que las suscripciones caigan un 20%”, apuntó Miguel Briones, socio de Deloitte T&T Tecnología.
El informe prevé que el mercado se estabilice con solamente dos o tres operadores independientes de SVOD, complementados por plataformas agregadoras de contenido (compuestas principalmente por telecos, plataformas de televisión de pago o empresas tecnológicas) que aúnen contenidos de múltiples fuentes en una única oferta. Este cambio podrá reducir costes y crear un ecosistema de streaming más sostenible, además de mejorar la experiencia del usuario.
Smartphones con IA Generativa
Deloitte prevé que, en 2025, los smartphones con aplicaciones de fábrica de IA Generativa superarán el 30% de las compras totales. Los PC con dichas funcionalidades rondarán el 50% de las ventas totales, frente al 30% en 2024.
2025 será un año clave para evaluar el valor y el alcance de las nuevas herramientas de IA Generativa. Aunque el informe predice un aumento del 7% de las ventas mundiales en smartphones para 2025 (frente al 5% en 2024), el impacto en los ingresos será mayor que en el volumen de ventas debido al incremento de precios por este tipo de modelos premium de mayor precio con funcionalidades avanzadas de IA Generativa.
Reflexiones sobre el sector telco
En la presentación del informe también participó Pablo Freire, director general de desarrollo corporativo y transformación de MasOrange, quien destacó el sufrimiento de un sector que en los últimos diez años ha visto como disminuían sus ingresos cerca de un 35% mientras la demanda no dejaba de crecer. Para invertir esta situación reclamó una legislación más ágil y habló de la fusión entre MasMovil y Orange como un ejemplo de cómo no deben hacerse las cosas desde el punto de vista regulatorio.
Por su parte, Eloy Rodrigo, director financiero de Vodafone, aseguró que el modelo actual “fuerza a crear valor añadido para el cliente”, algo que no es tan sencillo porque servicios como seguridad o banca “no son nuestro core, nos obligan a ser resellers y allí no hay tanto margen”.
No obstante, apuntó que la inteligencia artificial va a posibilitar que las redes sean más óptimas, reparables y seguras. “Generará valor para prevenir averías, pasaremos de un papel reactivo a proactivo y se generará una mejor experiencia para el cliente”, concluyó.