Facebook a publié son premier rapport de transparence sur les actions de modération qu’il mène sur le réseau social. Le document révèle des chiffres très impressionnants : au premier trimestre 2018, la société a éliminé 583 millions de faux comptes dans le service, en plus des 837 millions de publications de spam.
Le premier montant est encore plus impressionnant si l’on considère que sur la période, Facebook a enregistré 2,2 milliards d’utilisateurs actifs par mois (ceux qui accèdent au réseau social au moins une fois par mois). Cela signifie qu’il y a environ un faux profil pour quatre comptes légitimes.
C’est un vieux problème sur Facebook, à tel point que la plupart des utilisateurs légitimes ont probablement été ajoutés par de faux profils. Il n’est pas difficile de les identifier. En général, les faux comptes utilisent des photos qui attirent beaucoup l’attention, n’ont pas beaucoup de messages, interagissent peu, de toute façon. Il existe d’autres directives pour savoir si un profil Facebook est faux ici.
Malgré le nombre énorme de faux comptes, Facebook souligne que la plupart d’entre eux ont été éliminés quelques minutes après leur création, ce qui les empêche d’atteindre un nombre important d’utilisateurs légitimes. Ce filtrage est effectué à l’aide de l’intelligence artificielle . Malgré cela, la société estime que de 3 à 4 % des comptes actifs au premier trimestre étaient des faux profils.
C’est aussi grâce à l’intelligence artificielle que Facebook a pu s’attaquer au problème du spam. Selon l’entreprise, près de 100 % des 837 millions de messages de ce type ont été détectés et supprimés automatiquement, avant même que les utilisateurs n’aient eu la possibilité de les signaler.
Dans le rapport, Facebook souligne également que 21 millions de messages comportant des scènes de nudité ou d’activité sexuelle ont été éliminés, 96% automatiquement, sans que les utilisateurs n’aient à signaler l’irrégularité. 3,5 millions de publications avec violence ont été supprimées ou mises en garde, dont 86% par le système lui-même.
Ces chiffres sont étonnants, mais Facebook lui-même reconnaît qu’il s’agit d’un travail en cours. Les systèmes de filtrage fonctionnent déjà bien, mais ne sont pas efficaces pour identifier les discours de haine, par exemple. 2,5 millions de publications de ce type ont été éliminées au cours de la période, mais seulement 38% automatiquement.
Facebook explique également que les algorithmes d’intelligence artificielle nécessitent beaucoup de données pour être formés, ce qui prend du temps. En outre, il y a la question de la réaction : l’entreprise souligne que les responsables des postes irréguliers changent constamment de stratégie pour échapper aux contrôles des réseaux sociaux.
