“La société occidentale a accepté comme incontestable l’impératif technologique, qui est en effet arbitraire dans son tabou le plus primitif : non seulement le devoir de promouvoir l’intention et de créer constamment des nouveautés, mais aussi le devoir égal de se soumettre à ces nouveautés sans condition, juste parce qu’elles sont offertes, sans respect de leurs conséquences humaines”.
L’observation de Lewis Mumford, écrivain, sociologue et philosophe de la technologie, entre autres, a pris le nom de Déterminisme technologique, et peut se résumer en une simple phrase : “si une technologie existe, elle sera utilisée”.
Non, je ne quitte pas la zone de la cyber-sécurité et de la vie privée pour écrire sur la philosophie. Je ne considère pas que j’ai le rembourrage nécessaire, mais plutôt que le peu d’intimité que nous croyons encore avoir est en train de se développer.
À la mi-janvier 2020, Clearview AI a gagné en notoriété. Cette jeune entreprise de 12 ans ( !), qui a déjà reçu 40 millions de euros de financement, est basée à New York et a passé ces dernières années à balayer Internet – en particulier les réseaux sociaux comme Facebook, Instagram et Twitter – à la recherche de toutes les photos, et de toutes les informations et métadonnées qui y figurent.
Dans ce contexte, les “informations” et ce que les photos apportent de manière explicite, sont des choses comme le nom ou le surnom utilisé par le propriétaire du compte, le texte qui accompagne la photo, les noms ou surnoms des personnes qui commentent et leurs avatars. En outre, la photo elle-même apporte plusieurs métadonnées, qui sont intégrées dans le fichier image. Ainsi, il est possible de savoir non seulement quand la photo a été prise, mais aussi, à l’époque des smartphones, où elle a été prise.
Jusqu’à présent, tout va bien. Ce type de collecte de données, connu sous le nom de “scrapping internet”, est quelque chose de normal et plusieurs cours de programmation vous apprennent dès les premières semaines. Ce qui différencie Clearview AI du reste, ce sont deux faits : la capacité de le faire à l’échelle industrielle et la capacité de croiser les données et d’extrapoler les conclusions.
Ce qu’un étudiant a pu faire
Il y a cinq ans, un diplômé du MIT, utilisant des données pseudo-anonymisées – chaque carte a obtenu un code, mais n’a pas révélé le nom ou le numéro – des cartes de crédit et des transactions effectuées par 1,1 million de clients dans 10 000 magasins sur une période de trois mois, a pu créer un modèle d’analyse qui pouvait lier une transaction à une carte en analysant simplement le montant dépensé et le nom du magasin, avec une précision de 90%.
Il est impossible de dire ce que Clearview AI a fait exactement. Mais on peut supposer, avec un bon niveau de confiance, qu’elle a développé un algorithme de détection faciale plus efficace que ceux connus jusqu’à présent, et qu’elle a utilisé cette capacité pour accroître l’efficacité de l’extrapolation des données.
En d’autres termes, en étant capables d’identifier plus précisément une personne à différentes occasions, ils sont capables de créer des liens entre John Doe et Sicranus à partir d’images et, selon le jour, l’heure, la géolocalisation d’autres personnes qui ont été identifiées au même endroit, de “comprendre” si John Doe et Sicranus sont à un événement professionnel ou social ou à quelle fréquence ils se rencontrent.
Le système est capable de comprendre que les images dans lesquelles apparaissent les animaux de compagnie ou le fameux “selfie ascenseur”, sont des choses qui sont généralement faites là où cette personne vit, et ainsi de suite.
J’ai même pensé à faire une revue du site web Clearview, qui comporte des phrases comme “Information publique seulement”, “Recherche, pas surveillance”, “Arrêter les criminels” et “Protéger les innocents”, phrases qui semblent venir du Big Brother d’Orwell. Ou pour souligner le fait que Peter Thiel est l’un des co-fondateurs de Paypal et que sa société Palantir, qui a des liens étroits avec plusieurs branches du gouvernement américain, n’est pas un bon signe. Mais je pense que ce serait s’écarter beaucoup de la question qui nous occupe.
Retour à Mumford. La technologie existe et sera utilisée, et Clearview AI n’a été que la première à être exposée, d’autres doivent exister ou être en cours de réalisation.
Il est évident qu’il y a beaucoup de personnes insatisfaites
Twitter aurait exigé que Clearview.ai supprime toutes les photos qu’il a utilisées et qui ont été retirées du site. Dans l’État de l’Illinois, aux États-Unis, une action collective a été engagée dans laquelle la société est poursuivie sur la base de la législation locale régissant l’utilisation de données biométriques, et les visages sont des données biométriques.
En fait, il convient de noter que Facebook fait déjà l’objet de poursuites dans l’État, et qu’une demande de réseau social adressée à la Cour suprême des États-Unis, demandant de ne pas être jugé par cette loi, a été rejetée (même pas jugée).
En Europe, la biométrie est protégée par PIBR, en Chine, il existe des crédits sociaux, qui pourraient devenir une version déformée de la vision utopique de Cory Doctorow des wufies de Down and Out in the Magic Kingdom ? (oui, le titre en français est mixte), avec les crédits sociaux, et l’utilisation intensive de la reconnaissance faciale, si un plan de mise en œuvre de la reconnaissance de masse est réalisé.
Ici en France, lorsque la LGPD entrera en vigueur à la mi-août – si elle n’est pas reportée – les données biométriques seront protégées par elle, puisqu’il s’agit de “données sensibles”. En effet, quel que soit le lieu de stockage des données, ou la nationalité de l’entreprise, la protection est celle des données du citoyen français.
Mais même lorsqu’elle entrera en vigueur, l’utilisation de ce type de données sera autorisée pour la sécurité publique et la sécurité de l’État, c’est-à-dire que Big Brother pourra garder un œil sur nous tous.
Souriez, vous êtes filmés, photographiés et analysés par des algorithmes, si qui sait quoi d’autre…
