#31 - The long and winding road to Twitter

#31

Dans ce numéro :
→ Le problème n'est pas la décision de Twitter mais la nature même de la modération en ligne
→ Le volet légal de l'affaire
→ En bref
Où étiez-vous mercredi dernier ? Que faisiez-vous au moment de la tentative de coup d'état au Capitol ? Moi je lisais. Complètement déconnectée d'Internet, mon smartphone loin de moi, je sirotais mon jus de grenade tout en lisant l'excellent essai d'Irénée Régnauld et Yaël Benayoun Technologies partout démocratie nulle part, en écoutant le disque de l'année 2020 pour la dixième fois, celui de Fiona Apple Fetch the Bolt Cutters.
Je n'ai su ce qui était arrivé que le lendemain matin, au réveil, entre deux gorgées de café, grâce au journal de France Culture. Cette (légère) prise de distance m'aura au moins permis de ne pas être sidérée par l'événement. En revanche, j'avoue avoir été pas mal agacée par les réactions suite à la décision de Twitter de bannir Trump de sa plateforme, surtout les prises de parole françaises, qui enfonçaient des portes ouvertes ou bien la critiquaient, en étalant leur méconnaissance des fonctionnement des réseaux sociaux et de la démocratie américaine.

Au final, depuis l'insurrection et comme le souligne Lucie Ronfaut , les moins entendu.e.s sont les chercheurs et chercheuses qui travaillent sur ces sujets depuis des années.
Bonne lecture !

-- Dominique

Le Capitole pris d'assaut par les suprémacistes blancs.

Le problème n'est pas la décision de Twitter, mais la nature de la modération en ligne.

Deux reproches principaux sont adressés à Twitter, deux reproches contradictoires. Le premier est d'avoir réagi trop tard et le deuxième est de porter un coup fatal à la démocratie. Ces deux avis péremptoires s'avèrent in fine complètement déconnectés de la réalité des faits et montre une méconnaissance des mécanismes de la démocratie américaine, qui encadrent la liberté d'expression.

Autant on ne peut nier que la décision de Facebook de suspendre temporairement la page de Trump est opportuniste et a été actée sous la pression, autant la décision de Twitter est logique au regard des alertes que la plateforme a prodigué depuis plus d'un an. Petit rappel d'une chronologie de mises en garde du réseau social :

- Le 30 octobre 2019, Jack Dorsey, le co-fondateur de Twitter, annonçait lui-même que le réseau social bannissait les publicités politiques. A un an des élections présidentielles, la firme américaine prenait déjà la mesure des différents scandales qui touchaient Facebook, et en pleine explosion de fakes news (2020 lui aura donné raison), si manipulation il y avait, elle ne se ferait pas avec sa participation active ou passive. Sachant que les revenus publicitaires sont la principale ressource financière, cette décision était plutôt à saluer.

Une semaine auparavant, Mark Zuckerberg avait été mis dans l'embarras sur ce sujet par la représentante Alexandria Ocasio-Cortez, dans une vidéo qui a fait le tour du monde. Elle lui avait demandé si il lui était possible de passer une publicité sur Facebook vantant une fausse nouvelle, à savoir que des élu.e.s Républicain.e.s avaient voté en faveur du Green New Deal. Zuckerberg avait répondu, en bégayant : "Je n’ai pas la réponse en tête, mais probablement."

- Le deuxième acte s'est déroulé le 27 mai dernier : une première décision historique a été prise par Twitter, en censurant des tweets de Donald Trump dans lesquels celui-ci remettait déjà en cause le vote par correspondance.

On ne peut donc pas accuser la plateforme américaine d'être restée passive. En a-t-elle fait assez ? Sûrement pas. En avait-elle les moyens ? Vaste débat. Où doit-elle s'améliorer ? En améliorant la modération. Certain.e.s me diront que ça passe par une automatisation des outils... Oui mais non.

Sur ce sujet, la sociologue Sarah T. Roberts expliquait deux points dans son essai Derrière les écrans. Le premier point explicitait les limites de l'automatisation : «Les outils de détection automatique restent soumis à des problèmes informatiques extrêmement complexes. La sous-catégorie appelée « vision par ordinateur » – la reconnaissance d’images et d’objets par une machine – est un domaine de recherche qui présente de nombreuses difficultés technologiques, la rendant bien souvent impossible à mettre en œuvre et à généraliser dans de nombreux environnements de modération de contenu, tant sur le plan informatique que financier. Ces tâches incombent donc à des humains qui travaillent avec des files d’attente de contenus numériques, effectuent eux-mêmes les prises de décision et interviennent si nécessaire.»

Et le deuxième point, lié à la nature même des plateformes : «Pour les entreprises dont les profits dépendent du contenu généré par les utilisateurs, il existe cependant au moins un autre facteur qui les incite à ne pas dévoiler ces pratiques. Leur besoin de modération de contenu à une échelle industrielle constitue à leurs yeux une contrainte qui, si elle était connue et si on en prenait pleinement conscience, risquerait de révéler une face cachée de leurs activités et de faire apparaître ces sites comme des canaux de diffusion pour des utilisateurs désireux de propager un contenu répugnant, outrageant ou choquant – ce qui ne correspond évidemment pas à l’image que la plupart des plateformes grand public désirent cultiver. Ces plateformes engagent donc des modérateurs de contenu pour exécuter des tâches aussi banales et répétitives qu’abrutissantes, qui les exposent à des images et à des contenus pouvant être violents, dérangeants, voire psychologiquement traumatisants.»

Le volet légal de l'affaire

Ce triste paradoxe nous impose donc une extrême prudence sur le sujet qui nous préoccupe actuellement, car cela interroge frontalement, voire brutalement, notre conception même de la démocratie. Lorsque certain.e.s hurlent que la décision de Twitter est une atteinte à la liberté d'expression et/ou met à mal la démocratie, iels se trompent purement et simplement de combat.

Passons sur l'hypocrisie de certain.e.s de nos dirigeant.e.s politiques qui crient au scandale. Iels ont peur qu'un jour Twitter leur coupe aussi le sifflet. Mais recentrons-nous sur le volet américain de cette crise. Et avant de crier à la censure, examinons ce que dit le droit américain.

Beaucoup ont évoqué le premier amendement de la Constitution américaine. Rappelons le texte de l'article : «Le Congrès n'adoptera aucune loi relative à l'établissement d'une religion, ou à l'interdiction de son libre exercice ; ou pour limiter la liberté d'expression, de la presse ou le droit des citoyens de se réunir pacifiquement ou d'adresser au Gouvernement des pétitions pour obtenir réparations des torts subis.» Il ne s'applique donc qu'à la puissance publique, pas au monde des affaires.

Une entreprise privée, comme Twitter, est donc tout à fait libre de fixer ses propres règles et d'exclure qui elle veut, tant qu'elle respecte la loi. Ce sont les fameux CGU, sur lesquelles je reviendrai ci-dessous. Ainsi, si le camp Trump a vivement réagi, il ne semble pas envisager de lancer un procès qui serait vraisemblablement perdu d'avance.

Autre point important, Twitter avait renforcé, quelques jours avant son interdiction des publicités politiques, les dispositifs concernant sa politique relative aux personnes publiques et notamment aux dirigeants politiques. Le réseau social établissait ses règles à venir quant à la modération des messages des hommes et femmes politiques. La plateforme n'avait aucunement l'intention de censurer les tweets violant ses règles, mais d'apposer un avertissement. Dans le même temps, elle avertissait qu'elle interviendrait directement si les contenus comportaient des violations graves comme la promotion du terrorisme, des menaces claires et directes d'actions violentes ou d'incitation à la violence. Les responsables politiques sont alors traités comme les autres utilisateurs : les contenus peuvent être effacés ou masqués et les sanctions peuvent aller jusqu'à la suspension du compte.

Cette affaire repose donc clairement le problème de la régulation des contenus par les plateformes elles-mêmes mais aussi de leur responsabilité. Aux Etats-Unis, la section 230 est le texte qui permet aux plateformes de ne pas être tenues responsables du contenu qu'elles hébergent, à condition qu'elles suppriment les contenus illégaux qui leur sont signalés par voies judiciaires. Trump avait d'ailleurs menacé de la supprimer, ce qui aurait eu certainement l'effet inverse de ce qu'il escomptait, à savoir la quasi-suppression de ses contenus sur Facebook et Twitter.

Toujours est-ils est que nous sommes ici à la croisée des chemins. Jusqu'à présent nous étions dans un tourniquet et il n'y avait pas de frontière claire entre la modération et la juste nécessité de garantir la liberté d'expression sur les plateformes. Au pays du marché des idées, la décision historique de Twitter nous incite à réfléchir au projet démocratique que nous voulons voir advenir. Voulons-nous de Big Tech qui arbitrairement coupent les tuyaux d'un site, comme c'est le cas d'AWS avec Parler ? Voulons-nous voir une Loi Gayssot de l'internet ? Ou bien désirons-nous accompagner une plateforme qui a montré depuis des mois qu'elle essayait (mal) de faire avancer le débat ?

En bref

→ Les représentants Démocrates annoncent qu'ils lanceront des enquêtes pour établir la responsabilité des réseaux sociaux lors de l'attaque sur le Capitole
→ The Well, le plus vieux forum en ligne, publie son 20ème rapport The State of The World 2021
→ Slow Thougths Network : inspirez, expirez...