2028 : procès du ranking social

Le procès du ranking social, qui s’est tenu le 4 décembre 2019 à l’Assemblée nationale, est le troisième opus d’un cycle organisé à l’initiative des Jurisnautes et des éditions Dalloz, après ceux sur le transhumanisme et sur l’intelligence artificielle (v. Dalloz actualité, 23 juin 2017, art. J. Mucchielli et, pour les actes des procès, Dalloz IP/IT 2017. 424 ; ibid. 2018. 578 ).

Objet de l’audience : la notation sociale généralisée des citoyens, qui ouvre ou referme des droits à chacun en fonction de son comportement et de critères définis par ceux qui les établissent, ne pouvait pas laisser insensible la représentation nationale. Certains pays ont en effet déjà fait ce choix, la Chine en particulier (v. P. Sirinelli et S. Prévost, To be or Notes to be ?, Dalloz IP/IT 2018. 205 ). La société française est-elle prête à l’accepter pour ses citoyens ?

Marie Misset, journaliste radio qui plantait le décor, rappelle qu’en 2024, à l’occasion des Jeux olympiques de Paris, le gouvernement expérimente la sécurisation de l’événement par le recours à une start-up de « note sociale » devenue leader du marché : la société Rank my life (RmL). L’événement est un succès et, en quelques années, le recours à RmL se généralise : employeurs, propriétaires, écoles, relations amoureuses…

Tout le monde se fie à la note sociale des individus, déterminée à partir d’un algorithme complexe agrégeant des quantités astronomiques de données, déclinées en thématiques, catégories et sous-catégories, allant de la rigueur professionnelle à la salubrité du mode de vie. La machine s’emballe, entre recours à des cabinets de conseils spécialisés dans l’amélioration de la note sociale et courses à l’abîme provoquées par des baisses de note en cascade.

C’est ainsi qu’en 2028, la société Ecosaniagri publie une annonce pour recruter un·e responsable de la stratégie capable de faire d’elle l’acteur écoresponsable incontournable du marché. Les candidats·es devront notamment avoir une note de 100/100. Par e-mail du 24 juin, ce poste est proposé à M^me Philippine Jeanvieu, qui remplit les conditions. Le 1^er juillet, le scandale « Erase your dark side » éclate et la presse révèle que M^me Jeanvieu a utilisé les services de cette société pour corriger sa note sociale. Pour obtenir 100/100, et donc le poste, Philippine a accepté de renoncer aux cigarettes et aux voitures polluantes non autonomes. Elle s’est résolue à se marier et même à avoir des enfants. En revanche, il lui a été impossible d’arrêter l’alcool, la viande et le fromage, ce qui la maintenait à 98/100. Elle a donc décidé de recourir aux services de Erase your dark side pour supprimer toutes les images où on la voit un verre à la main ou devant des planches mixtes. L’opération faite, elle a atteint enfin la note maximale. Par e-mail du 3 juillet, à la lumière de ces informations, Ecosaniagri rétracte sa proposition de poste.

Autre personnage, Stéphane Vigi est un citoyen « ordinaire », sans aspérités. Il a, comme presque tout le monde, créé un profil Rank my life en 2024 pour pouvoir assister aux JO. Mais, en 2027, tout a basculé. Soupçonnant une aventure extraconjugale, sa femme a publié une vidéo dans laquelle elle accuse son mari de l’avoir trompée et d’être un misogyne riant aux blagues graveleuses. Devenue virale, la vidéo initiale a fait de M. Vigi un mème international : il est devenu malgré lui le symbole de l’adultère. Commence alors la descente aux enfers en même temps que celle de sa note sociale. Ses collègues le fuient, craignant de voir leur propre note baisser, sa prime de fin d’année est supprimée en raison de sa note sociale trop basse. Il est rétrogradé à un poste sans contact direct avec les clients. L’association dans laquelle il était bénévole se sépare de lui (il ne remplit plus le critère de note minimale). Lorsqu’il quitte le domicile conjugal, ses demandes de locations sont systématiquement rejetées (les dossiers étant priorisés selon la note sociale) et personne ne l’accepte en colocation.

M^me Jeanvieu et M. Vigi ont saisi la Cour des droits et libertés, juridiction suprême ad hoc créée pour l’occasion. Elle était composée de Judith Rochfeld, Grégoire Loiseau (professeurs de droit) et Jean-Baptiste Crabières (magistrat), assistés pendant le délibéré par les jurés Laure de la Raudière (députée d’Eure-et-Loire), Catherine Chambon (contrôleure générale – Direction centrale de la police judiciaire - Lutte contre la cybercriminalité), Éric Bothorel (député des Côtes-d’Armor), Laurent Buanec (DGA de Twitter France), Jean-Louis Humblet (directeur général de Etowline), Michel Eltchaninoff (rédacteur en chef de Philosophie magazine) et Pierre Berlioz (professeur de droit, directeur de l’École de formation des barreaux).

Florence Lardet (magistrate) et Emmanuel Daoud (avocat) ont plaidé la cause de M^me Jeanvieu. Françoise Barbier-Chassaing (magistrate) et Arthur Gaudron (chercheur MINES ParisTech) défendaient M. Vigi. Ils étaient soutenus par un grand témoin, Élise Berlinski (doctorante ESCP-Data scientist). Le rapporteur public, Valéry Turcey (président de chambre d’instruction à la cour d’appel de Paris) représentait la société civile. Ecosaniagri était défendue par Catherine Millet Ursin (avocate) et Rank my life par Gérard Haas (avocat). Il s’est appuyé en cela sur le témoignage de Tariq Krim (cofondateur de Netvibes et PDG de JoliCloud). 

La Cour, dont un extrait de la décision est reproduit ci-après, a répondu par la négative à la question de savoir si le principe du ranking social était compatible avec les droits fondamentaux des individus. L’intégralité des actes sera publiée dans le numéro de janvier de la revue Dalloz IP/IT.

DÉCISION PRONONCÉE EN AUDIENCE PUBLIQUE LE 4 DÉCEMBRE 2028

PRÉSIDENT ET ASSESSEURS

Jean-Baptiste CRABIERES, Grégoire LOISEAU, Judith ROCHFELD, Laure DE LA RAUDIERE, Eric BOTHOREL, Catherine CHAMBON, Laurent BUANEC, Michel ELTCHANINOFF, Pierre BERLIOZ, Jean-Louis HUMBLET

LA COUR DES DROITS ET LIBERTÉS A ÉTÉ SAISIE les 24 et 28 septembre 2028 par la Cour de cassation (chambre sociale, arrêt n° 94235 du 20 septembre 2028 et chambre civile, arrêt n° 7216 du 26 septembre 2028), dans les conditions prévues à l’article 61-1 de la Constitution, de deux questions prioritaires de conformité.
…

LA COUR DES DROITS LIBERTÉS S’EST FONDÉE SUR CE QUI SUIT :

1. La Cour considère que si des mécanismes d’évaluation, de notation et même de classement des individus ont toujours existé, ceux-ci étaient jusqu’alors cantonnés à une portion clairement délimitée de la ou des personnes objets de la notation.

2. À l’inverse, la notation sociale présente la spécificité d’avoir une finalité holistique et de chercher à évaluer et quantifier l’individu dans sa totalité.

3. De ce fait, la Cour entend définir le mécanisme de la notation sociale comme le fait d’établir une note conçue pour agglomérer une quantité non limitée de données dans une logique globale et non finalisée de quantification de la personne.

4. Face à ce nouveau type d’évaluation, la Cour rappelle que les individus doivent pouvoir disposer d’un droit à la protection des données les concernant. Cependant, un tel droit ne saurait s’entendre comme un droit de propriété des individus sur « leurs » données. En effet, appréhender le rapport des personnes aux données sous l’angle patrimonial conduirait à rendre celles-ci appropriables dans le cadre de l’économie marchande. Or, dans une telle situation, les rapports de force entre les individus et les éditeurs de services numériques seraient largement déséquilibrés, rendant de ce fait inopérant le droit de propriété.

5. Au contraire, au regard notamment des conséquences induites par une baisse de la notation sociale des individus – assimilable dans les cas les plus extrêmes comme pour Monsieur V… au bannissement – la protection des données personnelles doit s’envisager comme un droit à l’autodétermination informationnelle attaché à la personne.

6. Ce droit à l’autodétermination doit être compris, non pas comme se suffisant à lui-même ou comme étant un corollaire du droit au respect de la vie privée (droit relatif et susceptible de restrictions), mais comme se déduisant du principe de respect de la dignité humaine (droit absolu).

7. Au regard de ces éléments, les mécanismes de notation sociale tels que définis par la Cour violent le principe du respect de la dignité humaine, dans sa composante de droit à l’autodétermination informationnelle. Ils doivent donc être interdits. 

8. Ainsi, s’agissant de Madame J…, si son comportement, dans ses relations avec la société E…, est susceptible de caractériser des manœuvres dolosives, il ne saurait rendre inopérant la violation de son droit à l’autonomie informationnelle. Ses agissements n’auront de conséquences que sur le plan civil, s’agissant du montant des dommages et intérêts auxquels elle aurait pu prétendre.

9. S’agissant de Monsieur V…, la violation de son droit à l’autonomie informationnelle ouvre droit à réparation. 

LA COUR DES DROITS ET LIBERTÉS DÉCIDE :

Article 1^er - La pratique dite de l’évaluation sociale (social ranking), consistant à établir une note conçue pour agglomérer une quantité non limitée de données dans une logique globale et non finalisée de quantification de la personne, est interdite.

Article 2 - Cette décision sera publiée au Journal officiel de la République française.

Pour retrouver l’ambiance et vivre ou revivre ce procès, un podcast de l’émission de Marie Misset est librement écoutable sur radio Nova.