Des décisions qui pourraient créer un dangereux précédent en matière de liberté d’expression

Cette semaine, plusieurs entreprises technologiques se sont empressées d’interdire le contenu néo-nazi de leurs services. Tout a commencé lorsque GoDaddy et Google ont refusé de gérer le domaine Daily Stormer, “le site républicain le plus génocidaire du monde”.

Depuis lors, Facebook et Reddit ont fermé les groupes associés à la suprématie blanche ; GoFundMe a supprimé les campagnes de financement de la foule pour un participant à la marche de Charlottesville accusé d’avoir fait courir plus de 20 personnes ; et Airbnb et Uber ont interdit les utilisateurs publiquement associés aux idéaux néo-nazis.

L’Electronic Frontier Foundation (EFF), une organisation qui défend les droits des civils sur Internet, considère ces mesures avec scepticisme. Oui, ils pensent que tout le monde devrait s’unir contre les discours de haine, mais ils disent : “sur Internet, toute tactique utilisée maintenant pour faire taire les néo-nazis sera bientôt utilisée contre d’autres, y compris les personnes dont nous partageons les opinions.

“Une décision extrêmement dangereuse”

C’est une discussion qui a été ouverte par Matthew Prince, PDG de Cloudflare. L’entreprise offre une protection contre les attaques et cache le serveur qui héberge effectivement un site particulier.

Après toute la controverse, Cloudflare a décidé de ne plus fournir de services au Daily Stormer, le retirant ainsi de l’antenne. Prince dit à Gizmodo : “J’ai réalisé qu’il n’y avait aucun moyen d’avoir une conversation avec des gens qui nous traitent de nazis. Le Daily Stormer se vantait sur leurs forums que Cloudflare était l’un d’entre eux, et c’est le contraire de tout ce que nous croyons”.

Prince dit qu’il a pris “une décision extrêmement dangereuse”. Dans une déclaration aux employés, il raconte qu’il s’est littéralement réveillé de mauvaise humeur et a décidé de fermer un site web. “Personne ne devrait avoir ce pouvoir”, dit-il ? et le FEP est d’accord.

Infrastructures fragiles

Le PDG de Cloudflare déclare que “nous devons discuter de la bonne limite à imposer pour restreindre le contenu” ; si ce n’est pas le cas, il y a un risque d’abus de pouvoir. “Nous ferions une erreur en supposant que ces décisions de censure ne se retourneraient jamais contre les causes que nous aimons”, écrit le FEP.

Et ces abus peuvent facilement se produire dans l’infrastructure Internet actuelle, dominée par quelques entreprises. Il existe plusieurs intermédiaires entre l’utilisateur et un site web, tels que le bureau d’enregistrement du domaine (GoDaddy, Google Domains) ; la société d’hébergement ; le CDN (réseau de distribution de contenu), qui aide à la vitesse de chargement ; le fournisseur d’accès ; et même les réseaux sociaux, qui aident à la diffusion des liens.

Tous ces points sont soumis à la censure. Par exemple, la Chine a réussi à bloquer des centaines de sites en bloquant un CDN en 2014 ; certains de ces sites répandaient des nouvelles négatives sur le pays. Et les fournisseurs d’accès en Russie devront bloquer les sites qui hébergent des VPN pour empêcher l’accès aux contenus interdits par le gouvernement.

Lorsque l’un de ces liens sur Internet – par exemple, les bureaux d’enregistrement de domaines – montre qu’ils ont le pouvoir d’interdire un site, cela crée un précédent pour les gouvernements qui doivent censurer les dissidents, par exemple. En outre, comme le fait remarquer le FEP, “chaque fois qu’une entreprise retire un site néo-nazi d’Internet, des milliers de décisions moins visibles sont prises par des entreprises peu surveillées ou peu transparentes.

Que faire ?

Comment les sociétés Internet peuvent-elles éviter les décisions excessives ou arbitraires ? Le FEP soutient qu’ils devraient toujours suivre un processus cohérent et transparent.

Cloudflare, par exemple, a reconnu que le déni de service au Daily Stormer n’est pas une politique d’entreprise, qui se targue d’être neutre quant au contenu des sites qu’elle protège. GoDaddy et Google n’ont pas non plus mis en place un processus adéquat, interdisant le site néo-nazi – qui existe depuis 2013 – en mentionnant simplement les “violations des conditions de service”.

Ils ont pris ces décisions sous la pression de l’opinion publique, mais ont laissé en suspens d’autres sites néo-nazis importants. Comme le note The Verge, GoDaddy fournit toujours des services au Mouvement de la créativité, aligné sur la suprématie blanche, et aux sites américains Viking et Free American, classés par le Southern Poverty Law Center comme des groupes haineux.

Le FEP recommande donc les principes de Manille sur la responsabilité des intermédiaires, en particulier les points suivants :

Avant qu’un contenu ne soit restreint sur la base d’une ordonnance ou d’une demande, l’intermédiaire et le fournisseur de contenu devraient se voir accorder un droit effectif d’être entendus, sauf dans des circonstances exceptionnelles, où une analyse a posteriori de l’ordonnance et de son exécution devrait avoir lieu dès que possible.

Les intermédiaires doivent fournir aux fournisseurs de contenu des mécanismes de contrôle des décisions de restriction des contenus qui enfreignent les politiques de restriction.

Les intermédiaires doivent publier leurs politiques de restriction des contenus en ligne, en termes clairs et dans des formats accessibles, les tenir à jour au fur et à mesure de leur évolution et informer les utilisateurs des changements le cas échéant.

Le FEP rappelle que protéger la liberté d’expression ne signifie pas être d’accord avec tout ce qui est dit, mais croire que personne – ni le gouvernement ni les entreprises – ne doit décider de ce qui est dit. Les conséquences de la marche de Charlottesville montrent cependant que la différence entre la liberté d’expression et le discours de haine n’est pas toujours claire, et que nous devons en discuter pour éviter les abus.