La Administración del Ciberespacio de China (CAC) ha dado algunas pautas para el uso de deepfakes, restringiéndolos solo a algunas aplicaciones concretas.
Esta técnica, cada vez más extendida, permite hacer montajes de vídeo muy realistas y prácticamente indistinguibles de las imágenes reales con personajes que en realidad nunca estuvieron allí o cambiar una cara en un vídeo ya grabado o película para sustituirla por la de otra persona, actor, figura pública, etc. Además, los deepfakes se están usando cada vez más para llevar a cabo ciberataques.
De ahora en adelante China prohibirá la creación de un deepfake sin el permiso del sujeto que aparece o usarlos para representar una escena que puede considerarse contraria al interés nacional. Así, no se podrán usar humanos generados por IA para engañar o calumniar o cómo forma de "información ilegal y dañina".
Aquellas personas o entidades que violen dichas reglas podrán ver como sus cuentas son suspendidas o cerradas en plataformas sociales que detecten estos contenidos, al ser considerados como "ilegales". No obstante, la norma solo se aplicaría a aquellos proveedores de servicios de inteligencia artificial que operan en el territorio asiático.
China sí contempla el uso de esta tecnología para aplicaciones como chatbots, aunque en estos escenarios deberán enmarcarse como creaciones digitales.
El documento emitido por la CAC también pondrá puertas al campo en el caso de los editores online, quienes deberán vigilar bien la utlización de los deepfakes.
Una medida más de censura
La Administración del Ciberespacio de China ha justificado la medida señalando que estas políticas de IA más estrictas serán beneficiosas para combatir la desinformación y ciertas actividades delictivas, como las estafas online o la difamación.
La CAC reconoce que aunque la IA mejora la experiencia de usuario "también es abusada por personas que quieren producir, copiar y publicar información ilegal y dañina, desacreditar a otros usuarios y falsificar sus identidades".
Además, el regulador subraya que el contenido generado artificialmente puede “dañar los derechos e intereses legítimos de las personas y poner en peligro la seguridad nacional del país”.
Las nuevas normas chinas respecto a los deepfakes entrarán en vigor el próximo 10 de enero.