Depuis un certain temps, les “Instagrams” prennent des mesures pour lutter contre le harcèlement. La dernière en date est entrée en vigueur ce lundi (16) : à partir d’aujourd’hui, le service avertira l’utilisateur qui insère dans des photos ou des vidéos des descriptions pouvant être considérées comme offensantes.
L’alerte sera déclenchée par un système automatisé qui utilise l’intelligence artificielle pour identifier les mots ou phrases potentiellement offensants. Ce mécanisme est alimenté par une base de données qui rassemble les expressions associées à des brimades qui ont été signalées au cours des derniers mois.
D’une certaine manière, il s’agit de l’extension d’une fonction mise en place au début de l’année qui lutte contre le harcèlement dans les commentaires. Instagram indique que les réactions à cette mesure ont été positives : en général, les utilisateurs ont tendance à reconsidérer leur attitude après avoir été informés.
La nouveauté est capable d’identifier des expressions potentiellement offensantes dans la description avant que le contenu ne soit publié. L’utilisateur peut ignorer la notification et procéder à l’affichage, mais Instagram espère que le fait de repenser la légende de la photo ou de la vidéo sera la réaction la plus courante.
Une autre attente est que la mesure soit pour ainsi dire éducative : Instagram comprend que les avertissements peuvent indiquer clairement aux utilisateurs que certaines approches ne sont pas autorisées sur le réseau social et que leurs comptes peuvent être en danger en cas de violation des règles.
Les brimades et autres comportements nuisibles sont des problèmes constants dans la plupart des réseaux sociaux, en particulier chez les moins de 25 ans. Comme il est impossible de surveiller les messages et les commentaires à contenu offensant uniquement avec des modérateurs humains, les plateformes ont de plus en plus recours à l’intelligence artificielle à cette fin.
Comme les algorithmes ne sont pas encore assez précis pour détecter les contenus offensants, le fait de notifier plutôt que d’empêcher simplement la publication du contenu peut empêcher Instagram de commettre des erreurs. Il est donc clair que le réseau social a essayé d’atténuer le problème de l’intimidation, mais en suivant des voies plus sûres.
Selon le service, la notification des descriptions offensantes atteindra d’abord les “pays sélectionnés” et sera étendue au niveau mondial dans les mois à venir.
