Deux ans et demi suffisent pour corriger une défaillance dans un algorithme de intelligence artificielle ? Dans le cas d’un problème spécifique à Google Photos, non : en 2015, un développeur a découvert que le mécanisme d’auto-classification du service qualifiait les images de personnes noires de “gorilles”. Pour résoudre le problème, Google a décidé de bloquer simplement ce mot et d’autres mots potentiellement racistes.
En travaillant avec un logiciel, Jacky Alciné a réalisé dès qu’il a découvert le problème qu’il y avait une faille dans l’algorithme, et non une action intentionnelle de Google en faveur du racisme. Cependant, le développeur s’est demandé quel type d’images le système de service utilisait comme paramètres de comparaison. Pour lui, une classification plus précise et plus complète des Noirs permettrait à l’algorithme d’être mieux entraîné à ne pas faire ce genre d’erreur.
Google s’est rapidement excusé et a promis d’enquêter sur la question, et a même demandé à Alciné la permission d’accéder à son compte pour plus de détails. Mais apparemment, aucune solution n’a été développée depuis lors.
La découverte a été faite par Wired, qui a testé plus de 40 000 images sur Google Photos. Le service a correctement classé plusieurs types d’animaux, même certains supposés plus laborieux, comme les pandas et les caniches. En compensation, les recherches (en anglais) de chimpanzés, de gorilles et de singes n’ont pas donné de résultats.
Quelle est l’explication si les recherches sur les primates comme l’orang-outan et le babouin ont parfaitement fonctionné ? Wired a rapidement supposé que Google interdisait simplement les mots qui pouvaient causer des problèmes raciaux.
Étonnamment, Google a reconnu le bloc. Les catégories avaient été interdites dès qu’Alciné a signalé le problème et le sont toujours. Un des représentants de la société a expliqué à Wired que “la technologie de reconnaissance d’image est encore nouvelle et malheureusement loin d’être parfaite”.
La question demeure : Google n’a pas pu résoudre le problème ou l’a simplement laissé pour plus tard ? Il pourrait s’agir d’un mélange des deux. Les experts en intelligence artificielle reconnaissent que la technologie est loin d’avoir la capacité d’abstraction et d’analyse contextuelle des humains. En ce sens, la voie la plus facile (blocage de catégorie) semble être vraiment la plus sûre.
