#20 Derrière nos écrans de fumée

#20

Dans ce numéro :
→ Synopsis : Derrière nos écrans de fumée
→ Critique du documentaire
→ Teaser du documentaire
→ En bref

Le week-end dernier, encouragée par des ami.e.s, j'ai regardé le dernier documentaire sur nos vies numériques : The Social Dilemma (Derrière nos écrans de fumée, en français). Ce numéro de Futuromium est donc spécial, puisqu'il est consacré entièrement à ce documentaire.

Ces dernières années, des documentaires sur Internet et les réseaux sociaux ont été diffusés un peu partout dans le monde, notamment sur Netflix. Il y eut l'année dernière, sur la plateforme américaine, l'excellent The Great Hack, qui racontait en détail le scandale de Cambridge Analytica. Déjà, en 2016, le Lo and Behold: Reveries of the Connected World de Werner Herzog nous plongeait dans les promesses et les turpitudes de l'ère numérique. En allant à la rencontre de quelques experts et de quelques excentriques, le réalisateur allemand nous partageait sa vision singulière de son sujet : sarcastique, volontairement limitée, très curieuse.

Il y eut aussi Meeting Edward Snowden de Flore Vasseur, qui m'a fait dire à l'époque de sa sortie : tant qu'il y aura une personne comme Edward Snowden, épris de liberté, plein de bon sens et avec un esprit éclairé, tout est encore possible.

Alors pourquoi s'intéresser particulièrement à ce documentaire et ne pas faire un focus sur les autres, aussi ? Il y a deux raisons à ça : la première est que depuis le scandale de Cambridge Analytica, nous avons tous pris conscients que quelque chose n'allait vraiment pas, pourtant nous continuons à aller sur les réseaux sociaux, nous n'avons pas vraiment changé nos habitudes. Même si nous les réduisons, nous y revenons toujours, à un moment ou à un autre. Donc entendre ces principaux acteurs, et notamment Tristan Harris, nous dire que nous sommes manipulé.e.s devraient nous mettre en alerte. Est-ce suffisant pour faire évoluer nos usages ? J'en doute, il faudra certainement attendre un autre énorme scandale qui touche directement les utilisateurs pour les faire basculer. La deuxième raison est qu'analyser un documentaire produit par Netflix qui dénonce ce que la plateforme pratique elle-même montre le cynisme absolu de ces entreprises.

Bonne lecture !

-- Dominique

Synopsis : Derrière nos écrans de fumée

Réalisé par Jeff Orlowski, The Social Dilemma (Derrière nos écrans de fumée) explore l'effet des smartphones et des réseaux sociaux sur le comportement humain. Mêlant des interviews de certains apostats bien connus de la Silicon Valley (Tristan Harris, Renee DiResta, Tim Kendall, Jeff Seibert, Justin Rosenstein, entre autres) qui ont tous eu des postes à responsabilités (principalement Facebook, Google, Instagram et Twitter) et de la fiction, avec une famille en prise directe avec ces problématiques, le film a pour ambition de nous avertir des méfaits grandissants de nos usages sur Internet.

Le fait que les réseaux sociaux créent une dépendance et nous inquiètent n'est pas une révélation en soi pour quiconque utilise Facebook, Instagram, Twitter, Pinterest et les autres. Le film vise surtout à démontrer par le regard de ses principaux acteurs, des repentis, comment la Silicon Valley a créé une économie de l'attention spectaculaire générant un énorme profit qui aujourd'hui laisse exsangue les utilisateurices et met sérieusement en danger nos démocraties occidentales.

Critique du documentaire

Comme vous l'avez deviné, je suis quelque peu sensible aux préoccupations qui sont au coeur de ce documentaire. Lorsque j'ai commencé cette newsletter, j'avais pleinement conscience que les réseaux sociaux avaient vraiment un impact démesuré sur notre quotidien qui méritait d'être pris au sérieux. Ma réflexion a évolué au fil du temps et notamment, en suivant le travail de Tristan Harris sur le temps que nous consacrons aux écrans, a quelque peu bouleversé l'industrie (Apple en tête) et les analyses de Renee DiResta sur la désinformation et les fake news ont permis de faire prendre conscience, aux principaux acteurs et vecteurs, de ces problèmes.

Dans The Social Dilemma, nous les retrouvons donc dans leur nouveau rôle de lanceur d'alerte. Ils affirment que la manipulation du comportement humain pour générer du profit est codée dans ces entreprises avec une précision machiavélique : le scroll infini et les notifications "push" maintiennent les utilisateurs constamment engagés ; les recommandations personnalisées utilisent les données non seulement pour prévoir mais aussi pour influencer nos actions, faisant des utilisateurs des proies faciles pour les publicitaires et les propagandistes.

Comme dans ses documentaires sur le changement climatique, "Chasing Ice" et "Chasing Coral", Orlowski prend une réalité qui peut sembler trop colossale et abstraite pour qu'un profane la saisisse, sans parler de s'en soucier. Dans "The Social Dilemma", il reprend l'un des plus anciens tropes du genre de l'horreur - le Dr Frankenstein, le scientifique qui est allé trop loin - pour l'ère numérique.

Dans des interviews au montage rapide, ces hommes et femmes, qui craignent aujourd'hui les effets de leurs créations sur la santé mentale des utilisateurs et les fondements de la démocratie, livrent leurs témoignages comme s'iels pitchaient une conférence, en employant des aphorismes croustillants et des analogies percutantes :

"Jamais auparavant dans l'histoire, 50 designers ont pris des décisions qui auraient un impact sur deux milliards de personnes", explique Tristan Harris, ancien éthicien chez Google. Anna Lembke, experte en toxicomanie à l'université de Stanford, explique que ces entreprises exploitent le besoin évolutif du cerveau en matière de connexion interpersonnelle. Et Roger McNamee, l'un des premiers investisseurs de Facebook, lance une allégation qui fait un peu froid dans le dos : la Russie n'a pas piraté Facebook, elle a simplement utilisé la plateforme.

Et ensuite ? On atteint vite les limites de ce documentaire avec cette série de punchlines. Passons sur le ridicule des fictions proposées où l'on voit trois sociopathes manipuler les données d'adolescent.e.s ; une mère de famille qui ne sait plus quoi faire pour éloigner ses enfants de leurs écrans.

Ce récit illustre les limites de l'accent, parfois hyperbolique, mis par le documentaire sur le support au détriment du message. Par exemple, les interlocuteurs du film mettent l'accent sur l'augmentation des maladies mentales dans l'utilisation des médias sociaux, mais ne reconnaissent pas des facteurs tels que l'augmentation de l'insécurité économique et sociale. La polarisation, les émeutes et les protestations sont présentées comme des symptômes particuliers de l'ère des médias sociaux, sans aucun contexte historique.

Il y a de plus des allégations complètement erronées. Comme le souligne Adi Robertson dans The Verge, l'idée que seuls les algorithmes sont au cœur de nos ennuis laisse de côté de vastes pans de l'internet, qui sont sans doute tout aussi importants que les grands réseaux sociaux, et peut-être même plus dans certains cas :
"Propaganda, bullying, and misinformation are actually far bigger and more complicated. The film briefly mentions, for instance, that Facebook-owned WhatsApp has spread misinformation that inspired grotesque lynchings in India. The film doesn’t mention, however, that WhatsApp works almost nothing like Facebook. It’s a highly private, encrypted messaging service with no algorithmic interference, and it’s still fertile ground for false narratives. As Alexis Madrigal notes, condemning the platforms together comes “uncomfortably close to admitting that mobile communications pose fundamental challenges to societies across the world.” There’s a fair case for that, he argues — but a case with much more alarming implications.
Radicalization doesn’t just happen on Facebook and YouTube either. Many of the deadliest far-right killers were apparently incubated on small forums: Christchurch mosque killer Brenton Tarrant on 8chan; Oregon mass shooter Chris Harper-Mercer on 4chan; Tree of Life Synagogue killer Robert Bowers on Gab; and Norwegian terrorist Anders Breivik on white supremacist sites including Stormfront, a 23-year-old hate site credited with inspiring scores of murders.
These sites aren’t primarily driven by algorithms or profit motives. Instead, they twist and exploit the open internet’s positive ability to connect like-minded people. When harmful content surfaces on them, it raises complex moderation questions for domain hosts and web infrastructure providers — a separate set of powerful companies that have completely different business models from Facebook."

Pour autant, hors de question de laisser les réseaux sociaux s'en tirer à bon compte. Mais l'idée simpliste que le documentaire véhicule n'aide en rien à la réflexion générale et à une prise de position forte pour régler les problèmes. Il est tout de même ironique de constater qu'un film qui met sans cesse en garde contre les plateformes utilisant la désinformation pour alimenter la peur et l'indignation semble n'exister que pour alimenter la peur et l'indignation - tout en promouvant une vision déformée de leurs fonctionnements.

Certain.e.s défendent Derrière nos écrans de fumée en affirmant que son but est de toucher une large audience et donc de sensibiliser un grand nombre de personnes. Si le but est louable, il n'en reste pas moins que le propos l'est beaucoup moins. N'oublions pas que nos chers repentis sont à l'origine de tout cela, qu'ils ne proposent pas de véritables solutions pour y remédier, continent à bien gagner leur vie en surfant sur ces problèmes... Le tout sur Netflix. Cherchez le ou les erreurs.

Le teaser

En bref

→ Amazon s'associe avec la marque de luxe Oscar de la Renta pour ouvrir sa première boutique de luxe sur son app
→ Twitch expérimente la coupure de pub au milieu des streams
→ How Black Women tried to save Twitter