L’utilisation des faux papiers s’est rapidement répandue, même avec une application avec cette proposition. Mais en attendant, nous devons créer des moyens d’identifier les vidéos qui ne sont pas légitimes. C’est ce que Facebook a l’intention de faire en finançant et en récompensant la recherche à cet égard.
L’entreprise investira 10 millions de euros pour stimuler la création de méthodes permettant de savoir si une vidéo a été manipulée. Le Deepfake Detection Challenge, comme il a été appelé, impliquera également Microsoft, le consortium The Partnership on AI et des chercheurs de différentes universités.
“Le but de ce défi est de produire une technologie que tout le monde peut utiliser pour mieux détecter quand l’intelligence artificielle est utilisée pour tromper les gens”, explique Mike Schroepfer, vice-président de la technologie de Facebook.
Pour aider les participants au défi, Facebook va créer un ensemble de données avec différents deepfakes. “Il est important que les données soient disponibles gratuitement pour une utilisation communautaire, avec un consentement clair des participants et peu de restrictions d’utilisation”, déclare M. Schroepfer.
Facebook a construit le matériel à partir de vraies vidéos réalisées avec des personnes qui ont été payées pour le faire et qui ont autorisé l’utilisation des vidéos dans les enquêtes. La société a garanti qu’elle n’utiliserait pas d’images de ses utilisateurs dans le cadre de ce défi.
Le matériel sera testé lors d’une séance de travail technique à la Conférence internationale sur la vision par ordinateur, qui se tiendra en octobre en Corée du Sud. Le défi de la détection de faux documents devrait être publié en décembre.
Deepfake de Mark Zuckerberg
L’une des expériences de contrefaçon profonde a impliqué le fondateur de Facebook lui-même. Une vidéo publiée en juin dans Instagram montrait à quoi ressemblerait Mark Zuckerberg en déclarant que “celui qui contrôle les données contrôle l’avenir”.
Les auteurs de la vidéo sont Bill Posters et Daniel Howe, qui l’ont créée en partenariat avec l’agence de publicité Canny. Ils ont également indiqué dans la description qu’il ne s’agissait pas d’une vidéo légitime. Instagram a décidé de ne pas exclure le matériel.
