Défendre la Justice face à l’incitation à la censure privée

D’aussi loin que ma mémoire porte, j’ai toujours connu au sujet d’Internet des débats passionnants sur l’équilibre à trouver entre la préservation des libertés des internautes et la lutte contre les contenus illicites de différentes natures. Pendant longtemps ce débat a opposé les Etats qui ne voyaient pas pourquoi ils ne pourraient pas transposer au numérique le même type de régulations qu’ils avaient imposé aux médias traditionnels, et les nouveaux acteurs privés biberonnés à la liberté d’expression et au libéralisme à l’américaine, qui ne voyaient pas en quoi les Etats avaient légitimité à contrôler un réseau décentralisé, mondialisé, vécu comme un espace de liberté.

Personnellement, je n’ai jamais été ni pour un contrôle excessif par l’Etat, ni pour un pouvoir exclusif par les acteurs privés, mais au contraire favorable à une articulation des deux. C’est ce qui m’a toujours rendu sceptique face à la Déclaration d’indépendance du cyberespace de Barlow, qui en 1996 demandait aux Etats de rester à l’écart de toute régulation du Net, et plutôt favorable à l’équilibre trouvé en France par la loi pour la confiance dans l’économie numérique (LCEN) de 2004. Dans les grandes lignes, celle-ci exige des acteurs privés qu’ils suppriment des contenus lorsqu’ils leur sont signalés par des tiers et que leur illégalité ne fait aucun doute ; sinon, c’est à la justice de trancher et de dire à l’acteur privé ce qu’il doit faire.

Ce cadre de la LCEN a plutôt bien fonctionné mais il est mis à l’épreuve par la rapidité et le caractère massif des publications sur les réseaux sociaux, et par l’hyperconcentration des expressions des citoyens au sein d’une poignée de giga-plateformes qui les rendent visibles. Cette position dominante, centrale, accentue la gravité de l’inaction ou du manque d’action de certaines d’entre elles dans la lutte contre les contenus de haine. Et elle donne logiquement au législateur la volonté d’accentuer leur responsabilité.

Actuellement, les solutions envisagées tendent souvent à inciter les acteurs privés à être à la fois juges et policiers. On le voit avec des textes européens liés au droit d’auteur ou à la lutte contre le terrorisme, où l’on demande aux plateformes de recourir à des mesures de détection automatisée des contenus illicites, pour les supprimer automatiquement et préventivement. On le voit aussi en France avec l’annonce du futur texte de lutte contre les contenus de haine sur les réseaux sociaux, qui devrait renforcer les sanctions pénales en cas de défaut de suppression dans un court délai d’un contenu illicite, voire préconiser le recours à l’intelligence artificielle pour empêcher ou suspendre la publication de contenus susceptibles d’être illicites.

Ces solutions seraient sans doute à prescrire dans un monde idéal dans lequel l’IA ne se tromperait jamais dans la qualification d’un contenu, et dans lequel le législateur aurait le plein contrôle de ce qui est défini comme illégal ou non. Mais le monde est loin d’être idéal et les IA font des erreurs. Beaucoup d’erreurs.

Or, quel conseil donne un directeur juridique aux ingénieurs qui lui demandent quoi faire si l’IA a un doute sur le caractère illicite d’un contenu ? « En cas de doute, tu supprimes. On risque une lourde amende si on laisse passer un contenu illicite alors qu’on risque rien si on censure à tort, si ce n’est une petite polémique et un utilisateur fâché« .

On met donc le pouvoir de décision de qui a le droit de dire quoi dans les mains des acteurs privés qui ne prendront aucun risque, au détriment de la liberté d’expression. Et ce pour des centaines de millions de personnes. Il y a aussi un autre problème à l’incitation à la censure privée : elle rend invisibles les contenus de haine sans permettre aux victimes et à la collectivité, puisqu’elle ne les voit plus, d’en prendre conscience et de les poursuivre en vue de leur condamnation.

Donc, si l’on ne veut pas perdre totalement le contrôle sur notre liberté d’expression, et si l’on veut que le citoyen reste responsable des propos qu’il tient sans se décharger sur une IA qui fera le tri à sa place entre le dicible et l’indicible, il me semble qu’il faut revaloriser la place de la Justice dans le jugement de ce qui est légal ou illégal. Et pour autant, parce que les réseaux sociaux sont effectivement d’une rapidité de profusion folle, on ne peut sans doute pas reposer uniquement sur une justice traditionnelle qui met des mois à enquêter et juger. Il faut une Justice adaptée au monde numérique.

C’est ce qui m’a fait proposer, visiblement maladroitement, un mécanisme judiciaire qui permettrait de remettre le Juge au centre des décisions et de condamner ceux qui méritent de l’être :

Je dis « visiblement maladroitement » parce que ce tweet que je voulais être une défense de la liberté d’expression contre l’incitation à la censure privée m’a valu un de ces déchaînements de critiques ad hominem dont Twitter a le secret, au point que j’ai préféré le supprimer. Je reconnais que lu comme ça, hors du contexte qui le précédait, on pouvait le lire comme une incitation à la censure par une justice expéditive. C’était le contraire, et la volonté de préserver les libertés menacées.

Mais comme trop souvent maintenant, ceux qui n’étaient pas d’accord avec moi (soit qu’ils n’étaient vraiment pas d’accord, soit que j’avais mal fait comprendre ma position) s’en sont pris massivement à mon employeur, Qwant, parce que ma parole publique est devenue indissociable de lui.

C’est ainsi ; et c’est donc pour ça que j’envisage assez sérieusement de quitter Twitter, sur lequel il ne m’est malheureusement plus possible de mettre une proposition en débat sans craindre qu’une armée de trolls s’abatte. Je ne peux pas prédire à l’avance lequel de mes tweets va être repris, détourné et retourné contre Qwant. Et autant j’ai le cuir épais et j’assume toutes mes positions et propositions personnelles émises en mon nom propre et suis capable d’en débattre des heures, autant je ne peux pas supporter que toute l’entreprise qui m’emploie soit mise au pilori par ma faute.

Le paradoxe si j’en viens à cette extrémité, c’est que ce ne seront pas des IA qui auront eu raison de ma liberté d’expression, mais bien des humains.

4 thoughts on “Défendre la Justice face à l’incitation à la censure privée”

  1. Je ne suis pas toujours d’accord avec vous, et c’est le cas encore une fois.
    Quitter la route sous prétexte qu’on y croise souvent de mauvais conducteurs, ne vous permettra pas d’arriver à destination.

  2. Vous passez à côté du sujet number 1 ! il faut comprendre 1 chose importante, Twitter et Facebook sont des entreprises ! qui doivent donc faire des bénéfices.

    Leur but est d’avoir le plus de visibilité possible. Etant en grande perte de vitesse, je les vois mal ajouter des contraintes pour accéder à leurs produits.

    Secondo, vous parlez d’IA, technologiquement parlant, ça fait bien longtemps qu’il est possible de savoir si un contenu est haineux ou pas (encore plus cette année avec les nouveautés comme Bert de Google ou OpenAI v2). Mais l’IA fonctionne de manière empirique, elle doit apprendre avant, donc le raisonnement de dire « on va mettre une IA qui aura appris de Twitter pour supprimer le contenu haineux » est assez bancale. Et il y a déjà tellement d’histoires horribles (health care aux US).

    Ce déferlement de contenu n’est pas vraiment le problème mais un support ! Vous proposez donc de fermer les yeux sur la forme, et non pas sur le fond, c’est dommage, derrière tout ça, qui peut juger de ce que doivent penser les gens ? Peut être ils manquent juste d’éducation , peut on reprocher à quelqu’un dans ce cas d’être « bête » ? Alors une personne moche serait (raisonnement par l’absurde) également un « problème » dans notre société ?

    Concernant vos remarques par rapport à votre employeur, très simple:
    1- éviter de twitter pendant les heures de « travail »
    2- enlever dans votre bio la référence à Qwant !

  3. Je trouve normal de se faire allumer avec cette proposition de parquet numérique ! Pas forcément pour les raisons des trolls.

    Le parquet c’est le procureur pas le juge, l’accusateur en somme.

    On est toujours dans cette optique de poursuivre des personnes pour des crimes sans victime, ou non déclarée ou qui s’en foute.

    Le deuxième point est bien évidemment la liberté d’expression et la censure qui avance à grand pas. Aujourd’hui les propos haineux, demain les fake news, et après-demain tout ce qui ne sera pas politiquement correcte.

    Arrêtons de mettre en place des lois qui pourront être détournées par un pouvoir tyrannique, sans même qu’il est besoin des les voter et même d’avoir une majorité parlementaire …

    L’avenir semble radieux, non 🙂

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *