En septembre, le Twitter a été impliqué dans une grande controverse : les utilisateurs ont réalisé que les algorithmes du service peuvent donner la priorité à l’affichage des visages blancs dans les aperçus d’images, même si les visages noirs sont dans une position plus favorable pour cela. La société a promis d’enquêter sur le problème. Cette semaine, la décision a été prise : le système des réseaux sociaux va changer.
Pour ceux qui utilisent peu ou pas Twitter, voici une explication rapide : les images publiées sur le réseau social n’apparaissent pas en taille originale, mais en avant-première. Vous devez ouvrir le tweet pour que l’image s’affiche dans son intégralité.
En fonction de la taille de la photo, Twitter en découpe des parties pour n’afficher théoriquement que les informations les plus importantes dans l’aperçu. C’est là que le problème commence. Certains utilisateurs ont remarqué que si une seule image contient une séquence de visages, les visages des personnes blanches seront montrés dans les avant-premières.
La découverte a rapidement eu des répercussions, c’est pourquoi Twitter a promis d’agir. À l’époque, Dantley Davis, chef du service de conception, a expliqué que les prévisualisations sont faites par un mécanisme basé sur une machine qui analyse les motifs de contraste pour définir les zones des images qui doivent être découpées.
Dans une déclaration publiée cette semaine, Twitter souligne que ce système tente de prédire où les gens regarderont en premier sur une photo. La société affirme que lors des tests effectués pour déterminer le problème, elle n’a pas trouvé de préjugé racial dans le système, mais a reconnu que la façon automatique dont les photos sont découpées pouvait causer des dommages.
Nous aurions dû mieux anticiper cette possibilité lorsque nous avons conçu et développé ce produit”, indique un extrait de la note.
Face à cette perception, l’entreprise a promis des changements. Pour commencer, Twitter entend réduire la dépendance à un système de découpage automatique pour permettre aux utilisateurs de mieux contrôler la façon dont leurs images seront affichées dans les avant-premières.
À un stade ultérieur, il est prévu d’optimiser les systèmes de Twitter afin que le tweet avec une image affiche exactement le même contenu que celui que l’utilisateur voit en composant le message. En ce sens, la société entend étudier les moyens d’éviter que, dans les images très longues ou hors modèle, des zones qui échappent à l’objet de la publication soient mises en évidence dans les prévisualisations.
Enfin, Twitter a reconnu que les préjugés dans les systèmes d’apprentissage machine, bien que non intentionnels, sont un problème à l’échelle de l’industrie.
Bien qu’aucun système ne puisse être totalement exempt de partialité, nous continuerons à minimiser le problème grâce à une analyse délibérée et approfondie, et nous partagerons les nouvelles à mesure que nous avancerons sur cette question”, indique la dernière partie du communiqué.
