Sundar Pichai, le PDG de Google, a été pris par surprise récemment. Plus de 3 000 employés, des nouveaux venus aux ingénieurs ayant des années d’ancienneté, ont signé une lettre (PDF) demandant à l’entreprise de cesser de collaborer avec le Pentagone sur le projet Maven et de ne pas participer à des “affaires de guerre”. Cela semble noble, mais qu’entend-on par là ?
Tout commence avec ce projet Maven. Il s’agit d’un programme du Pentagone créé il y a plus d’un an pour développer des technologies de vision par ordinateur qui, basées sur l’intelligence artificielle, peuvent améliorer l’analyse des images capturées principalement par les drones.
Le mois dernier, Google a confirmé qu’il contribuait à l’initiative, plus précisément en donnant accès et en soutenant le Pentagone pour l’utilisation de TensorFlow, sa bibliothèque open source pour l’apprentissage machine.
Diane Greene, responsable du cloud computing chez Google et membre du conseil d’administration d’Alphabet, a déclaré que la collaboration ne visait pas à faire fonctionner les drones ou à lancer des armes autonomes. Le projet Maven, selon le Pentagone, vise à améliorer les systèmes de reconnaissance d’images pour identifier les menaces et prévenir la mort de personnes innocentes lors d’attaques.
Mais les employés n’étaient pas convaincus. Dans la lettre, ils déclarent que la technologie est développée pour l’armée et que, une fois livrée, elle peut facilement être utilisée dans différentes activités.
Même le fait que des entreprises comme Amazon et Microsoft contribuent depuis un certain temps aux programmes de défense des États-Unis ne rassure pas les employés. Ils affirment que cela ne rend pas la participation de Google moins risquée et mentionnent la vieille devise “ne soyez pas méchant” pour leur rappeler la portée de l’entreprise qui compte plus de milliards de personnes.
“Nous ne pouvons pas externaliser les responsabilités morales de nos technologies. Les valeurs internes de Google le montrent clairement : chacun de nos utilisateurs nous fait confiance. Ce contrat met en péril la réputation de Google et va à l’encontre de nos valeurs fondamentales”, indique une autre partie de la lettre.
Au New York Times, un représentant de Google a répondu que “toute utilisation militaire de l’apprentissage machine soulève naturellement des préoccupations valables” et a souligné que l’entreprise est disposée à discuter de la question.
Il n’est toutefois pas certain que Google révise sa collaboration avec le Pentagone en conséquence. Apparemment non : le représentant a souligné que “la technologie vise à signaler les images à l’attention des humains et a pour but de sauver des vies, en plus d’éviter que les gens aient à faire un travail très fastidieux”.
