Paris Match Belgique

Les nettoyeurs du net, témoins traumatisés et sous-payés de l’horreur en ligne

modérateurs de contenu

Image du film The Cleaners (2018). | © DR

Société

Dans sa dernière enquête « Au secours, mon patron est un algorithme », l’équipe de Cash Investigation zoome sur le quotidien traumatisant des modérateurs de contenu Facebook.

Ce sont les petites mains qui débarrassent la toile de ses pires ordures. Les manches retroussées au-dessus du clavier, elles font le tri entre les contenus à signaler ou supprimer, une fois publiés sur les réseaux sociaux. Maltraitance animale, torture humaine, images pornographiques ; le net regorge de contenus immondes et insoutenables, rendant insuffisante la capacité des algorithmes à pouvoir tout gérer.

Freinés par les limites de l’intelligence artificielle, les géants du net sont encore contraints de faire appel aux humains. Et pour faire leur ménage quotidien, ils peuvent compter sur les modérateurs de contenu. Des millions d’âmes recrutées dans le monde entier, dont le sale boulot fait froid dans le dos.

Témoins de l’horreur en ligne

Dans sa dernière enquête « Au secours, mon patron est un algorithme », l’équipe de Cash Investigation s’est infiltrée dans le quotidien des modérateurs de contenu Facebook. Dans la peau d’un « éboueur du net », Grégoire, journaliste pour l’émission diffusée sur France 2, a découvert la terrifiante réalité du métier. Muni d’une caméra cachée, il filme le déroulement de sa formation auprès d’Accenture, sous-traitant dans le secteur de la modération et client secret de Facebook.

Lire aussi > Gilets jaunes et forces de l’ordre font leur entrée dans le panorama de la haine sur Facebook

Entouré d’autres recrues françaises, italiennes et espagnoles, Grégoire s’apprête à apprendre le b.a.-ba de la modération de contenu en ligne. Au programme : suppression et signalement de contenus classés par thématiques, comme la nudité, le terrorisme ou les violences humaines. Mais rapidement, les choses dégénèrent. Bains de sang, corps démembrés, suicides filmés… ; le journaliste est sur le point de vomir, comme on peut le voir sur cet extrait diffusé sur Twitter. « La nausée, le corps qui tremble, les mains qui tremblent. Psychologiquement, c’était vraiment très dur aujourd’hui », témoigne-t-il.

Mission traumatisante et sous-payée

Un flot d’images « violentes » qui finit par avoir des repercussions sur le moral des modérateurs. Abimés, certains résistent et apprennent à vivre avec un stress constant et post-traumatique. Comme cette ancienne modératrice devenue formatrice qui déclare : « Pour moi c’est important, c’est comme si je nettoyais toute la saleté du web pour que ce ne soit pas une fille de 14 ans qui tombe là-dessus ».

Lire aussi > Et si Facebook était un État ?

« Modérateur de contenu, un job comme un autre ? », questionne Cash. Pas vraiment, surtout quand on apprend que pour accomplir cette mission difficile, les nettoyeurs sur Facebook sont payés environ 800 euros (brut) pas mois. Un salaire de misère qui poussent plusieurs à craquer après seulement quelques mois.

Un impact aussi violent qu’ignoré

Disponible en replay sur le site de France tv (et prochainement sur YouTube), l’enquête fait écho au documentaire allemand The Cleaners sorti en 2018. Aux Philippines, les réalisateurs Hans Block et Moritz Riesewieck filme ceux qui purgent les réseaux sociaux de leurs images les plus violentes. « De la pédopornographie aux décapitations terroristes, en passant par l’automutilation ou la simple nudité, proscrite par les chartes des grands groupes, l’impact psychologique des images les plus rudes est aussi violent qu’ignoré par la Silicon Valley, pour laquelle le rendement passe avant tout », décrit le synopsis du long-métrage, sacré meilleur documentaire au Festival international du film de Moscou.

CIM Internet