La révélation que les commandes vocales données à l’assistant Google peuvent être entendues par un tiers n’a pas été retenue. Il en va de même pour la découverte qu’une pratique similaire existe avec Siri. C’est pourquoi Google et Apple ont décidé de suspendre l’accès à ces enregistrements, au moins jusqu’à ce que de nouvelles approches soient développées.
Dans le cas de Google, les employés ont été autorisés à écouter et à transcrire les enregistrements des utilisateurs pour aider l’assistant vocal à reconnaître les commandes avec plus de précision.
Le programme d’Apple avait un objectif similaire : des employés externalisés ont été engagés pour écouter une petite partie des enregistrements liés à Siri (moins de 1 % d’entre eux, selon Apple) et ainsi identifier les activations accidentelles de l’assistant ou les réponses inexactes, par exemple.
Dans les deux cas, l’intention d’améliorer la technologie semble légitime. Le problème réside dans les effets secondaires, pour ainsi dire : de nombreux enregistrements contiennent des informations sensibles, il est possible que les données soient utilisées à mauvais escient par les employés, et les conditions d’utilisation des deux assistants ne précisent pas clairement que les conversations peuvent être entendues.
Pour donner une idée de la faiblesse du contrôle sur les enregistrements, Google a lui-même reconnu que l’audio a été divulgué par un employé qui a violé les politiques de sécurité de l’entreprise.
Face aux critiques, Google a décidé de suspendre les transcriptions dans l’Union européenne – les audios qui ont fui provenaient de Belgique et des Pays-Bas. La société a expliqué à la CNBC qu’elle avait pris sa décision peu après que la plainte ait été portée à son attention et qu’elle traitait la question avec les autorités de protection des données.
La suspension doit durer au moins trois mois. Google a défendu cette pratique en faisant valoir qu’elle ne transcrit que 0,2 % des enregistrements et qu’ils ne sont pas associés aux comptes des utilisateurs qui les ont générés. L’entreprise prendra probablement des mesures pour légitimer les transcriptions, par exemple en décrivant plus clairement cette possibilité en termes d’utilisation.
Apple dit qu’elle s’engage à offrir une grande expérience avec Siri tout en protégeant la vie privée des utilisateurs. Elle a donc annoncé une suspension globale de l’utilisation des enregistrements pour une révision complète du programme.
L’une des mesures qu’Apple prendra est une mise à jour du logiciel qui vous permettra de consentir à ce que vos commandes vocales soient collectées et entendues (vraisemblablement de manière anonyme) afin d’améliorer la technologie.
Bien que les deux sociétés aient pris la décision de suspendre les programmes, la possibilité pour les autorités d’examiner les plaintes de manière approfondie n’est pas exclue. Les analystes soulignent que Google pourrait avoir violé le GDPR, par exemple.