Internet

Google Photos n’a pas réussi à identifier deux personnes comme étant des gorilles.

Google Photos est apparu fin mai avec plusieurs attraits, parmi lesquels la possibilité de reconnaître le contexte des images pour les classer. Tout le monde sait que de telles technologies ne sont pas (encore) parfaites, mais personne ne s’attendait à ce que la fonction mette Google en jupe serrée : le service a fini par marquer deux personnes comme des gorilles.

L’échec a été constaté par Jacky Alciné, un programmeur qui vit à New York. En vérifiant ses photos dans Google Photos, il a remarqué que les images qui le montraient avec un ami étaient automatiquement étiquetées par le service comme “Gorilles”.

Immédiatement, Alciné a exprimé son indignation sur Twitter. Dans les tweets qui ont suivi, le programmeur a clairement indiqué qu’il comprenait que le problème était dû à une erreur (après tout, il travaille avec le développement), mais il s’est demandé quels types d’images le système Google utiliserait comme paramètre de comparaison pour tomber dans l’erreur. “Cela aurait pu être évité avec une classification plus précise et plus complète des personnes noires, en particulier des personnes ayant des tons de peau plus foncés comme moi et mon ami”, a-t-il ajouté.

  Facebook permet un choix personnalisé du sexe sur le profil

L’affaire, bien sûr, a rapidement eu des répercussions. Comme il fallait s’y attendre, certains ont tenté de soulever un débat racial, en disant, par exemple, que ce genre de problème ne se pose pas avec les blancs.

Environ une heure et demie après le premier tweet, l’architecte en chef de Google+, Yonatan Zunger, a présenté ses excuses pour cet échec et a demandé à Alciné une analyse approfondie de son compte afin d’en rechercher les causes.

Au sujet de la discussion soulevée, M. Zunger répond qu’il est difficile d’apprendre les systèmes de intelligence artificielle, expliquant dans l’ordre que Google Photos a déjà fait des erreurs avec des personnes à la peau claire, les marquant comme des chiens et des phoques, par exemple.

Le tag “Gorilles” a été supprimé de la base de données Google Photos. Mais Google sait que ce n’est pas suffisant. “Il y a clairement beaucoup de travail à faire avec le marquage automatique des images et nous étudions comment nous pouvons éviter ce genre d’erreur à l’avenir”, a déclaré un porte-parole de la société.

  Une étude compare le "cycle" des réseaux sociaux avec les épidémies et prédit le déclin de Facebook dans un avenir proche

A propos de l'auteur

Zineb

Enseignante en lycée, je m'intéresse à tout ce qui touche aux nouvelles technologies. #teamMac sur PerlmOl (je ne me sépare d'ailleurs jamais non plus de mon Iphone).

Laisser un commentaire