Vous parlez à quelqu’un par le biais d’un chat sur Facebook ? Vous n’êtes peut-être pas le seul : le logiciel de réseau social de Mark Zuckerberg est capable de suivre l’activité des utilisateurs dans les chats et de détecter les comportements suspects. En mars, Facebook a pu empêcher une fille d’être abusée sexuellement après une analyse menée par des employés du service.
L’algorithme recherche les phrases obtenues précédemment sur des chats criminels, y compris ceux qui sont impliqués dans des abus sexuels. Reuters a publié jeudi une affaire qui a abouti (12). Un homme de 30 ans parlait de sexe et a pris rendez-vous avec une jeune fille de 13 ans. Le système de Facebook a automatiquement envoyé l’historique de la conversation aux responsables de Facebook, qui ont examiné la conversation et ont immédiatement appelé la police. L’auteur a été arrêté le jour suivant.
Certaines personnes n’aiment peut-être pas l’idée de faire lire leurs conversations, mais le directeur de la sécurité de Facebook, Joe Sullivan, affirme que seule une petite partie des conversations est accompagnée par des humains. “Nous n’avons jamais voulu créer un environnement où nos employés regardent des conversations privées, il est donc très important que nous utilisions une technologie qui a un faible taux de faux positifs”, a-t-il déclaré.
Le système se concentre spécifiquement sur les conversations entre les utilisateurs qui n’ont pas une relation aussi forte sur Facebook. Les personnes qui ne parlent pas souvent, qui ont des différences d’âge importantes ou qui vivent loin les unes des autres, par exemple, reçoivent une attention particulière et sont plus susceptibles d’être capturées par l’algorithme.
L’histoire est controversée. Alors que certains pensent que la surveillance peut inhiber l’activité des délinquants, d’autres soutiennent qu’une conversation privée entre deux personnes doit être privée.
