Instagram a lancé cette semaine deux ressources pour lutter contre le harcèlement sur le réseau social. Tous deux utilisent l’intelligence artificielle et l’apprentissage machine pour détecter automatiquement les photos ou les commentaires qui peuvent contenir du harcèlement, afin de protéger en particulier les plus jeunes utilisateurs, selon l’application.
L’un des outils a commencé à être diffusé mardi (9) et sera disponible dans les semaines à venir pour tous les contenus. Il s’agit d’une technologie d’apprentissage automatique qui permet d’identifier et de supprimer un nombre beaucoup plus important de brimades. Il s’agit d’une étape cruciale, car de nombreuses personnes qui subissent ou remarquent des brimades ne les signalent pas, selon Instagram.
L’algorithme analyse à la fois l’image et la légende pour détecter le harcèlement. Si le problème est identifié, le contenu est envoyé à une équipe humaine d’Instagram, qui peut ou non retirer la publication.
Le réseau social a également amélioré la détection des brimades dans les commentaires. Cette fonction fonctionne depuis le mois de mai sur les publications de flux, l’écran Explore et les photos accessibles depuis votre profil. À partir de cette semaine, le filtre sera également appliqué aux émissions en direct (lives) dans le monde entier.
Le filtre de commentaires peut être activé ou désactivé dans les paramètres d’Instagram. Il suffit d’appuyer sur l’icône du profil, d’entrer dans les paramètres et d’appuyer sur les commandes de commentaire. Lorsque cette fonction est activée, les commentaires potentiellement offensants sont automatiquement masqués par le réseau social. Vous pouvez également filtrer des mots spécifiques et ceux qui sont fréquemment signalés par les utilisateurs.
