Modération en ligne à la demande de la police londonienne : le Conseil de surveillance de Meta s’improvise régulateur et juge

Le Conseil de surveillance de Meta s’oppose à la décision de supprimer le contenu demandé par les autorités britanniques et indique que l’entreprise devrait créer un système normalisé pour les demandes émanant d’acteurs étatiques, d’accroître la transparence de sa procédure et de donner la possibilité aux utilisateurs de faire appel au Conseil de surveillance. Le Conseil de surveillance est une entité interne créée par Mark Zuckerberg en 2020, composée d’experts spécialisés dans les technologies, le droit et les droits humains, et chargée « d’aider […] à répondre à certaines des questions les plus complexes en matière de liberté d’expression en ligne : quels contenus supprimer, quels contenus laisser en ligne et pourquoi ». C’est la raison pour laquelle il a été saisi dans l’affaire présentée ci-après, et sa décision insiste sur le besoin de transparence dans les procédures de modération et le besoin impératif de permettre aux utilisateurs de pouvoir saisir le conseil qui se présente comme un organe indépendant rendant des décisions contraignantes à l’encontre des équipes de modération. Le conseil fonctionne sur le modèle d’un tribunal, reprenant également le vocabulaire juridique pour présenter ses missions et fonctions, tout en insistant sur le fait qu’il n’en est pas un.

Dans sa décision d’infirmer la suppression du contenu litigieux, le conseil « estime que la suppression de ce contenu n’est pas conforme aux standards de la communauté de Meta, à ses valeurs ou à ses responsabilités en matière de droits de l’homme ». Un compte Instagram publie la promotion d’un morceau de musique de genre « drill » intitulé « Secrets Not Safe » (Des Secrets mal gardés) par Chinx (OS). La police métropolitaine londonienne (MET) demande alors à Meta d’examiner le contenu, car elle appréhende la violence que pourrait entraîner ce morceau. En effet, compte tenu du contexte fourni par la police londonienne, Meta en a déduit que le morceau faisait référence à une fusillade de 2017, ceci expliquant pourquoi la police craignait des représailles et de nouvelles violences. Suite à cette demande et à l’examen de la publication, Meta a supprimé de nombreux contenus promouvant le morceau sur le compte l’ayant originellement posté, mais également d’autres comptes faisant référence au morceau ou le diffusant. La demande et les suites données à celle-ci par Meta ont ensuite été transmises à son Conseil de surveillance, mais Meta n’a pas pu transmettre ladite vidéo puisque le contenu avait été supprimé et le compte l’ayant posté également. Dans ses principales observations, le conseil ajoute que « Meta ne disposait pas de preuves suffisantes pour conclure que le contenu contenait une menace crédible, et l’examen du conseil n’a pas permis de découvrir de preuves à l’appui d’une telle...