Malgré l’interdiction des contenus illégaux et le fait qu’il prêche que c’est un site “amusant et sûr” pour trouver et créer des GIF, le Giphy héberge encore beaucoup de contenus qu’il dit ne pas autoriser : la pornographie infantile et les discours de haine. L’information a été obtenue par TechCrunch à partir d’un rapport produit par la startup israélienne de protection de l’enfance en ligne L1ght.
Parmi les contenus toxiques encore présents sur le site, les GIF incitent à la maltraitance des enfants, au viol, à la suprématie blanche, aux discours de haine et aux images qui stimulent la perte de poids et les troubles alimentaires.
Même si la plateforme bloque certains mots-clés et n’affiche pas de tels résultats de recherche, des moteurs comme Google et Bing stockent toujours ces images liées aux termes mis en cache.
Dans les tests L1ght, une recherche de matériel illicite a donné 195 images déjà sur la première page de résultats. A partir de là, la start-up a suivi les hashtags associés à ces GIF jusqu’à ce qu’elle trouve un réseau de matières toxiques. Certains hashtags, qui concernaient souvent des sites ayant ce contenu, permettaient aux utilisateurs d’échapper à la détection automatique de Giphy et de continuer à trouver le matériel sur la plateforme.
TechCrunch n’a pas divulgué les mots-clés utilisés dans la recherche (en partie parce qu’il ne l’a pas fait), mais il a déclaré avoir transmis l’information au National Center for Missing and Exploited Children, une organisation à but non lucratif du Congrès américain qui tente de lutter contre l’exploitation des enfants.
Ce que dit Giphy
Le chef de cabinet de Giphy, Simon Gibson, a déclaré à TechCrunch que lorsque l’entreprise identifie un contenu toxique, elle s’efforce de le supprimer et de le signaler aux autorités, en plus d’employer des protocoles de modération stricts.
Selon M. Gibson, pour que le contenu soit indexé dans les pages Giphy, l’utilisateur doit en faire la demande à la société. Cette image passe par une combinaison de vérification informatique et humaine.
S’il subsiste un doute quant au caractère nuisible ou non du contenu, les modérateurs transmettront le matériel à une autre équipe interne de confiance et sécurisée, qui l’examinera plus avant.
Ce n’est pas la première fois que Giphy est confronté à un tel désordre : Instagram et Snapchat ont même retiré les GIF de la plateforme parce qu’ils contiennent du matériel racialement insultant indexé à la recherche. À l’époque, la société a déclaré que le contenu était passé par le filtre de modération de la plateforme et avait appliqué une correction.
