Modérateurs : ceux qui se sont chargés de nos fautes

Par Hervé van Baren

 

«  … A chacun d’eux ce qu’il s’est acquis comme péché. Celui d’entre eux qui s’est chargé de la plus grande part aura un énorme châtiment. »  Coran, Sourate 24, verset 11

The Verge, un magazine multimédia spécialisé dans les nouvelles technologies, publie sous le titre « The Trauma Floor » (l’étage des traumatismes) un article1 sur les ravages psychologiques que subissent les modérateurs de Facebook dans la pratique de leur métier.

L’auteur a interviewé plusieurs collaborateurs ou ex-collaborateurs de l’entreprise Cognizant, une des sociétés auxquelles Facebook sous-traite cette activité. Il y a actuellement 15 000 modérateurs travaillant pour Facebook dans le monde.

Facebook est né d’une intention louable : mettre le miracle numérique au service du vivre ensemble en constituant des réseaux de taille inédite, mettre à notre disposition un outil de socialisation à la puissance incomparable. Le postulat à la base de cette idée, c’est que nous ferions de cet outil le meilleur usage. On constate aujourd’hui que cet objectif a été réalisé partiellement. Des études montrent qu’à peu près 30% des « amis » sur Facebook sont de véritables amis2. Malheureusement, Facebook c’est aussi le lieu de la compétition féroce, du narcissisme exacerbé, de la recherche compulsive de « likes », des fausses nouvelles, de l’ultraviolence et des théories du complot, des règlements de compte et des lynchages numériques, de la récupération commerciale et de l’hégémonie publicitaire.

La réalité du mimétisme dément une fois de plus le mensonge romantique. L’échec des GAFAM3 à transformer le monde en un havre de paix a tout à voir avec la méconnaissance que Girard identifiait comme la condition à la survie du système sacrificiel. Les dirigeants des GAFAM ne sont absolument pas conscients de leur responsabilité dans des phénomènes qu’ils ont le plus grand mal à contenir. Ils sont dépassés par ce qu’ils ont créé, parce qu’ils ne connaissent pas les forces qui animent les sociétés humaines. Cette méconnaissance est illustrée par l’article. Pour lutter contre l’anarchie et la violence qui envahit son réseau, Marc Zuckerberg ne voit pas d’autre moyen que de sacrifier quelques milliers d’innocents à son rêve de monde parfait (et très lucratif).

Ce que l’article montre surtout, c’est l’impact sur notre psychisme de la violence et de la folie exposées sans restriction. Les modérateurs, soumis à un rythme infernal de visionnage de vidéos (jusqu’à 400 par jour), avalent chaque jour des théories du complot frisant le délire, des propos haineux, parfois des scènes de meurtre. Ils en sortent rarement indemnes.

Leurs symptômes s’apparentent au stress post-traumatique. Ils se protègent en se droguant, en buvant, en ayant des relations sexuelles sur leur lieu de travail. Ils deviennent paranoïaques, portent une arme à feu, s’enferment chez eux. Ils s’échangent les blagues les plus douteuses, racistes et offensantes, plaisantent sur leur prochain suicide…

L’article insiste sur l’effet de l’exposition permanente aux théories du complot. Ceux qui sont chargés de modérer les nombreuses vidéos qui s’échangent sur le sujet deviennent rapidement des complotistes eux-mêmes…

Certains sont victimes d’attaques de panique à la moindre détonation, ou lorsqu’ils voient un film avec une scène violente ou perturbante.

Pourtant, les modérateurs sont soumis à une sélection rigoureuse basée en partie sur leur capacité à résister aux images violentes.

Les modérateurs seraient-ils une nouvelle version du « porteur de faute » inventée par la société technicienne ? Ils ne sont pas des boucs émissaires au sens classique, personne (à part quelques rares internautes mécontents de leur censure) ne cherche à leur nuire. Ils sont victimes avant tout de leur propre mimétisme, qui les oblige bien malgré eux à s’imprégner de l’odeur nauséabonde de nos égouts émotionnels et psychiques. On peut tout de même s’interroger sur la façon dont ils sont traités : sous-payés, signataires d’une clause de confidentialité radicale, soumis à des conditions de travail pénibles, ils font partie des oubliés du miracle des géants du web. On peut se demander s’il n’y a pas là une preuve que les grandes entreprises technologiques procèdent plus d’une résurgence du système sacrificiel que des grands principes humanistes vantés par leurs communications officielles. Les modérateurs symbolisent l’échec de ces grands principes, la face obscure des GAFAM. Les reléguer au rang d’employés de seconde zone et les cacher aux regards revient à nier cette dimension.

Le phénomène est à la mesure d’internet, cette création humaine qui dès sa conception était destinée à échapper à l’humain. Internet est peut-être l’exemple le plus frappant d’un des paradoxes de la société technicienne : ce qui devait nous donner enfin le contrôle de nos vies et de notre histoire commune devient l’outil privilégié de la crise qui nous enlève tout contrôle. Jadis, dans le cadre étouffant de la culture, des lois et de la religion, du moins pouvions-nous avoir l’illusion de maîtriser un tant soit peu nos destins. Aujourd’hui, nous sommes plus libres que nous ne l’avons jamais été, mais le futur s’estompe et nos actes ne peuvent plus prétendre participer à un sens global. Avec internet, les possibilités sont infinies, mais les possibilités participant à la stabilité, au sens et au progrès se perdent dans la masse et s’égarent dans le chaos.

Devant ce grand écart entre nos orgueilleuses ambitions et leur échec patent, nous réagissons comme nous l’avons toujours fait : soit en nous obstinant dans notre erreur, soit en voulant rétablir le monde tel qu’il était avant la catastrophe. Le calvaire des modérateurs participe de la première solution. Internet est entre autres cette formidable caisse de résonance de nos peurs et de nos obsessions, et vouloir purger le système de ses remugles les plus infects est aussi efficace que d’empêcher un barrage de céder en maçonnant les fissures d’où l’eau s’écoule. Pour Marc Zuckerberg, se remettre en cause reviendrait à admettre que les fondements même de sa poule aux œufs d’or sont bancals ; cela lui est impossible. Pour ne pas devoir renoncer à sa chimère, il envoie des milliers d’éboueurs nettoyer les fosses septiques qui débordent.

Nous participons tous à ce phénomène, bien connu mais inédit dans sa dynamique comme dans son échelle. Les gilets jaunes en sont un autre exemple. En réclamant moins de taxes pour pouvoir continuer à polluer et à consommer, nous ne cherchons nullement à réformer un monde injuste et épuisé, seulement à le perpétuer.

Ce tableau bien sombre ne doit pas nous empêcher de voir la face lumineuse. Si les monstres tapis dans nos souterrains sortent au grand jour, il en va de même de la lumière que nous avions cachée sous le boisseau. L’article en est l’illustration. Qu’un site dédié aux nouvelles technologies puisse le publier, voilà qui en dit beaucoup sur les paradoxes de notre époque. Plus le mal sort de sa cachette, libéré des chaînes qui le retenaient vaille que vaille, moins nous le tolérons, et c’est cela la crise. Partout sur la planète des multitudes se lèvent pour le dénoncer. Le relâchement de la loi et du sacré permet aussi à notre meilleure part de s’exprimer.

Dire le mal c’est déjà lui ôter son pouvoir. Accepter de le regarder en face c’est déjà se libérer de son emprise. C’est le symbole de la croix, qui expose tout autant l’innocence de la victime émissaire que la violence de ses bourreaux. Girard l’avait bien compris quand il faisait allusion au diable crucifié de l’Enfer de Dante4. La sagesse juive le savait déjà quand elle écrivait :

Moïse fit un serpent d’airain, et le plaça sur une perche; et quiconque avait été mordu par un serpent, et regardait le serpent d’airain, conservait la vie. (Nombres 21, 9)

Ce que nous vivons c’est bien une apocalypse, une révélation. C’est le dévoilement de la part violente des rapports humains, de nos cultures, de nos institutions, de nos croyances, et c’est toujours ravageur. Le mot apocalypse ne désigne pas un événement précis, ni une ère délimitée de notre histoire, c’est un processus à l’œuvre depuis le commencement. La crise apocalyptique se déclenche inévitablement lorsque nous devenons conscients, parce que cette prise de conscience éclaire toujours tant la part lumineuse que la part obscure de ce qui nous était caché. Pourtant, au niveau historique, on ne peut que constater une augmentation exponentielle de la fréquence des scandales qui dévoilent la réalité de la violence. Partout dans le monde, nos médiocres petites ruses destinées à perpétuer l’ordre sacrificiel sont exposées. C’est MeToo, ce sont les Wikileaks, les Panama Papers, les scandales qui éclaboussent jusqu’aux plus sacrées de nos institutions. Nous restons sur l’image d’un monde décadent, mauvais ; en réalité il n’a jamais été aussi juste, aussi pacifique, aussi soucieux de l’humain. Paradoxalement, c’est cette ère de prospérité, de paix et de justice qui permet le dévoilement, parce que c’est la condition pour pouvoir y survivre.

C’est ainsi, je pense, qu’il faut lire l’Apocalypse de Jean. Il est surprenant que René Girard l’ait si peu commenté, y compris dans son dernier livre, Achever Clausewitz, apocalyptique s’il en est.

Les quatre cavaliers qui inaugurent les septénaires5 ne sont pas des maux nouveaux, ils existent depuis l’invention de la culture. La guerre, la religion, la justice dans leur dimension sacrificielle, et le principe qu’elles ont servi jusqu’à ce jour, la mort, inaugurent un mouvement d’ensemble qui voit chuter les uns après les autres les objets célestes. Tout cela perd son caractère sacré en même temps qu’est dévoilée leur violence intrinsèque. La prière des saints qui suit décrit si bien où nous en sommes :

9Quand il ouvrit le cinquième sceau, je vis sous l’autel les âmes de ceux qui avaient été immolés à cause de la parole de Dieu et du témoignage qu’ils avaient porté.
10Ils criaient d’une voix forte :
Jusques à quand, Maître saint et véritable,
tarderas-tu à faire justice
et à venger notre sang sur les habitants de la terre ?
11Alors il leur fut donné à chacun une robe blanche,
et il leur fut dit de patienter encore un peu,
jusqu’à ce que fût au complet le nombre de leurs compagnons de service et de leurs frères,
qui doivent être mis à mort comme eux. (Apocalypse 6, 9-11)

La foule des innocents immolés à l’ordre violent des humains devient apparente. Nous sommes indignés et nous réclamons justice. Autant nous pouvons commencer à regarder le réel en face, autant nous ne sommes pas encore prêts à nous pardonner les uns les autres. Clairement, c’est toujours de justice rétributive qu’il est question dans ces versets. Ce passage n’est pas l’appel au martyre d’un Dieu sadique ; c’est l’état des lieux très précis d’un monde qui a pris le risque insensé d’exposer au grand jour ses souillures, sans pour autant renoncer à la violence. Or il est une évidence : ces ignominies sont notre héritage commun, pas l’apanage d’un petit nombre de pervers et de criminels. Le passage décrit la dynamique qui conduit de la révélation au tous contre tous, la crise mimétique et la montée aux extrêmes.

C’est pourquoi j’attache tant d’importance au contexte de l’article. Publié dans un E-magazine qui devrait se cantonner à l’adoration de ses dieux techniciens, il désigne le fruit pourri au sein même de son monde. C’est exemplaire de ce mouvement de fond, profondément nouveau, qui nous voit exposer notre violence, là où auparavant nous ne savions que dénoncer celle des autres.

A chaque fois que nous dénonçons l’injustice, nous devrions prendre grand soin de n’accuser personne, de ne pas chercher de victime émissaire, mais au contraire, de montrer que nous en sommes tous plus ou moins complices. L’auteur de l’article y parvient partiellement. Il cherche encore le scandale, mais il ne demande pas vengeance. Il expose le mal, mais il ne parvient pas encore à voir comment tous, pas nos comportements d’internautes, nous y participons. Il y a toujours des gentilles victimes, les modérateurs, et des méchants, Facebook et les internautes qui postent des vidéos abjectes, mais il comprend que, chacun à son niveau, ces internautes c’est nous, et que ce que le Réseau d’Amis est devenu, c’est ce que nous en avons fait.

1https://www.theverge.com/2019/2/25/18229714/cognizant-facebook-content-moderator-interviews-trauma-working-conditions-arizona

2https://atelier.bnpparibas/life-work/article/facebook-reseaux-amis-virtuels-correspondent-realite

3Acronyme pour désigner les géants du web : Google, Apple, Facebook, Amazon, Microsoft.

4René Girard, Je vois Satan tomber comme l’éclair, p. 183, Le Livre de Poche 2001

5Apocalypse 6, 1-8

Répondre

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s