L’application Deepfakes Zao est sortie vendredi (30) en Chine et suscite déjà la controverse en raison de sa proposition d’inclure le visage des utilisateurs dans des scènes célèbres. Son accès a été restreint par WeChat, qui a souligné les risques de sécurité.
WeChat a interdit le téléchargement de la nouvelle application dans votre navigateur et l’envoi de liens d’invitation dans les conversations. Lorsque les utilisateurs tentent de le faire, le messager les avertit que la page a été “signalée plusieurs fois et qu’elle contient des risques de sécurité”.
Malgré cette restriction, il est toujours possible de partager des vidéos avec des scènes montées par le biais de WeChat. Disponible uniquement en Chine, Zao s’est viralisé en faisant en sorte que les utilisateurs puissent “participer” à des extraits de films, d’émissions et de clips.
Zao limite le deepfake à une liste prédéfinie de productions et vous permet de générer des GIF de scènes célèbres que les utilisateurs pourront partager sur d’autres plateformes. En quelques jours, l’application est devenue l’App Store le plus populaire en Chine et la liste d’attente est encore longue.
Il est si facile de créer des vidéos montées que l’on s’inquiète de la possibilité que les vidéos soient falsifiées, au point d’utiliser l’intelligence artificielle pour changer le visage des gens dans les vidéos. Cette technique, qui peut être utilisée dans des vidéos amusantes, peut également servir à nuire à d’autres personnes.
En outre, il y a la question de savoir à qui appartiennent les vidéos montées. Un extrait retiré des conditions d’utilisation de Zao a donné aux créateurs de l’application la propriété et les droits d’auteur sur le contenu créé par les utilisateurs.
Les développeurs de Zao promettent maintenant d’utiliser ce contenu uniquement pour améliorer l’application. Ils affirment également que les vidéos supprimées par les utilisateurs seront également supprimées de leurs serveurs.
“Nous comprenons parfaitement les préoccupations de chacun sur la question de la vie privée”, a déclaré l’équipe de Zao sur le réseau social chinois Weibo. “Nous sommes conscients du problème et nous réfléchissons à la manière de le résoudre, nous avons besoin d’un peu de temps”.
