Nudité, violence: la politique de modération de Facebook en partie révélée

Le Guardian a révélé des documents internes à Facebook. Ils dévoilent certains détails de la politique de modération du réseau social.

Sur Facebook, vouloir frapper des roux ou des enfants obèses n'est pas considéré comme une menace "crédible", car "trop générique".

Écrit par Perrine Signoret

Ce dimanche, le Guardian a révélé une série de documents internes à Facebook. S'y trouvent des informations sur la très secrète politique de modération du réseau social. 

Dire vouloir taper un roux n'est pas une menace "crédible"

L'on apprend notamment comment les propos violents sont gérés, et considérés selon différentes échelles. Ainsi, un message demandant à ce que "quelqu'un tue Trump" devra être supprimé, parce que le sommet de l'État "est une catégorie protégée". Il en va de même pour une menace "conditionnelle" comme "à moins que tu n'arrêtes de jaser je vais te couper la langue." 

Il est en revanche possible de menacer de mort quelqu'un sur Facebook, dès lors que ce n'est pas identifié comme une "menace crédible" car trop "générique". Dans cette catégorie, sont rangées les injections suivantes, comme le listent les documents révélés: "donner un coup de pied à un roux", "briser le cou d'une pute en appuyant de toutes ses forces au milieu de sa gorge", "j'espère que quelqu'un va te tuer", ou encore "tabasser des enfants en surpoids". 

La question de la mort et du suicide

Est ensuite abordé le sujet des vidéos montrant des morts violentes. Récemment, plusieurs suicides et meurtres ont en effet été publiés sur Facebook, la plupart du temps via l'outil Facebook Live qui permet de diffuser un contenu en direct. 

La politique du réseau social à ce sujet est la suivante: "les vidéos ne doivent pas toujours être supprimées, parce qu'elles peuvent aider à sensibiliser à certains problèmes comme les maladies mentales".  

Cela dépendrait donc avant tout de l'intention de l'auteur. Il en irait de même pour les photographies de maltraitance animale, et les images de maltraitance infantile à caractère non-sexuel. Si ces dernières sont associées à une forme de "sadisme" ou de "célébration", elles doivent être retirées de Facebook. Dans le cas contraire, elles peuvent être laissées, afin de permettre notamment d'identifier la victime. 

Le réseau social dit aussi dans les documents révélés accepter que les "personnes en détresse" postent en direct leurs tentatives d'auto-mutilation. Cela se justifierait par la volonté de ne pas "les censurer ou les punir." 

Sur la nudité, des règles floues

La modération des contenus présentant de la nudité ou une activité sexuelle est encore plus floue. Il est dit par exemple que les créations artistiques "faites à la main" sont autorisées, mais pas celles créées "numériquement." Les vidéos d'avortement ne sont par ailleurs admises que si elles ne contiennent pas de nus. 

Enfin, on apprend également que quiconque a plus de 100 000 abonnés à sa page est considéré comme une "figure publique". Or une "figure publique" bénéficie de moins de protection qu'un individu qui n'est pas identifié comme tel. A cela s'ajoute par ailleurs le fait que le "langage violent" soit accepté, car il serait "une manière d'exprimer sa frustration en ligne." 

"La priorité de Facebook reste la sécurité"

Les révélations du Guardian interviennent alors que Facebook fait l'objet, depuis plusieurs mois, de nombreuses polémiques autour de sa politique de modération. Peuvent être ici cités à ce titre la suppression arbitraire d'une photo de la petite Vietnamienne nue brûlée au napalm, les vidéos de plusieurs meurtres postés sur la plateforme, ou encore l'identification des photos de type "revenge-porn". 

Le réseau social peine à faire face à ces nouveaux défis. Un document cité par le Guardian explique ainsi que ses modérateurs reçoivent chaque semaine plus de 6,5 millions de signalements, rien que sur de potentiels faux-comptes. Début mai, Mark Zuckerberg annonçait sur sa page Facebook l'embauche imminente de 3000 nouveaux contrôleurs de contenus. 

Contactée, l'entreprise a fait suivre à L'Express un communiqué de Monika Bickert, chargée de la politique de gestion des contenus du réseau social. Elle y rappelle que la priorité de Facebook reste de "garantir la sécurité des personnes." "Nous travaillons dur pour nous assurer [de cela], tout en garantissant la liberté d'expression. Cela requiert beaucoup de réflexion autour de questions détaillées et difficiles, et le faire correctement est quelque chose que nous prenons très au sérieux." 

[Photo : afp.com/ROSLAN RAHMAN - source : www.lexpress.fr]