Une vidéo récemment publiée sur Instagram montre Mark Zuckerberg faisant une déclaration controversée. Seulement, ce n’est pas lui : c’est en fait un deepfake très bien produit. Néanmoins, Facebook assure : la vidéo manipulée ne sera pas retirée d’Instagram.
La fausse vidéo montre Zuckerberg disant : “Imaginez une seconde : un homme, avec le contrôle total de milliards de données volées, tous ses secrets, ses vies, son avenir. Je dois tout cela à Spectre. Spectre m’a montré que celui qui contrôle les données contrôle l’avenir.
Tout a été fait avec tant de soin qu’il est difficile de croire que la vidéo est un montage. Mais c’est le cas. Les auteurs de deepfake sont Bill Posters et Daniel Howe, qui ont fait le travail en partenariat avec l’agence de publicité Canny.
L’agence elle-même a révélé que la vidéo avait été produite sur la base de l’algorithme Face2Face des universités de Washington et de Stanford. En outre, ils ont utilisé un extrait d’une vraie vidéo de Zuckerberg pour entraîner l’algorithme de intelligence artificielle.
Enfin, les auteurs ont reconstitué le visage de Zuckerberg à chaque instant de la vidéo afin que son expression corresponde au discours du doubleur. Le résultat est impressionnant :
Une publication partagée par Bill Posters (@bill_posters_uk) le 7 juin 2019 à 7h15 PDT
Bien qu’il soit vrai que ce soit faux, Facebook a déclaré qu’il n’avait pas l’intention de retirer la vidéo d’Instagram et probablement de son propre réseau social.
Voici la justification donnée : comme le matériel ne viole pas les politiques de l’entreprise, la vidéo sera traitée comme un contenu de désinformation qui, en tant que tel, n’est plus affiché dans l’option Explore d’Instagram et ne fonctionnera plus avec les hashtags. Néanmoins, la vidéo ne sera considérée comme une désinformation que si des organismes externes de vérification des faits la classent comme fausse.
Spectre est le nom d’une œuvre d’art qui tente d’attirer l’attention sur le risque de manipulation des personnes par le biais des réseaux sociaux. Ce même travail a conduit à la création de deepfakes par Donald Trump, Morgan Freeman et Kim Kardashian.
Pourquoi Mark Zuckerberg était-il la cible du tour ? Il semble que ce soit une provocation. Récemment, Facebook a été critiqué pour ne pas avoir exclu un deepfake de Nancy Pelosi, l’actuelle présidente de la Chambre des représentants des États-Unis, pour avoir considéré que la vidéo ne violait pas sa politique. Dans ce document, Pelosi semblait être ivre. YouTube, en revanche, a supprimé la publication.
Le faux-semblant de Zuckerberg aurait donc été créé pour vérifier si Facebook garderait ce discours avec une “victime” de leur propre maison. L’entreprise devait le faire. S’il avait retiré la vidéo, Facebook aurait été accusé d’hypocrisie à l’époque.