Consécration d’un droit à l’explicabilité du scoring bancaire

L’information sur le fonctionnement d’un système d’intelligence artificielle, et plus généralement de tout traitement automatisé, suscite des questions relatives à son degré de précision. Du point de vue des intérêts du responsable du traitement, la protection garantie par le secret des affaires – seule alternative satisfaisante de protection – risque d’être mise à mal en cas de divulgation intégrale. Du point de vue de la personne qui fait l’objet d’une décision automatisée, une divulgation intégrale respecterait pleinement le principe de transparence sans toutefois garantir une compréhension du processus décisionnel.

Cette balance d’intérêts s’observe en présence d’une décision fondée exclusivement sur un traitement automatisé, y compris un profilage, produisant des effets juridiques sur une personne concernée, qui dispose d’un régime spécial au sein du règlement général sur la protection des données (UE) 2016/679 du 27 avril 2016 (RGPD). Quelques mois après l’importante décision Schufa qui précisait notamment son champ d’application (CJUE 7 déc. 2023, aff. C-634/21, Dalloz actualité, 12 déc. 2023, obs. L. Pailler ; D. 2024. 1000 , note T. Douville ; Dalloz IP/IT 2024. 362, obs. C. Galichet ; RTD com. 2024. 342, obs. E. Netter  ; CCE 2024. Étude 3, obs. L. Huttner), la Cour de justice de l’Union européenne s’est de nouveau prononcée, précisant le degré d’information auquel a droit la personne concernée lors de l’exercice de son droit d’accès.

En l’espèce, la Cour était saisie d’une question préjudicielle à l’occasion d’un litige opposant un éditeur de logiciel d’évaluation de crédit (scoring bancaire) et une personne s’étant vu refuser la conclusion d’un contrat de téléphonie mobile au motif que le résultat du scoring présentait une solvabilité financière insuffisante. Le tribunal administratif avait enjoint l’éditeur du logiciel de fournir à la personne des informations supplémentaires sur son score, sur le fondement de l’article 15, § 1, h), du RGPD relatif au droit d’accès à des informations utiles concernant la logique sous-jacente à la prise de décision automatisée. Toutefois, la demande d’exécution forcée de la décision a été rejetée au motif que l’éditeur du logiciel aurait satisfait à ses obligations, même en l’absence de fourniture d’informations supplémentaires.

Saisie d’un recours à l’encontre de cette décision de rejet, la juridiction de renvoi a estimé, d’une part, que seul un expert était en mesure d’évaluer ces informations, incluant les données traitées, la formule mathématique, la valeur attribuée à chaque facteur ainsi que l’échelle d’intervalle. D’autre part, l’éditeur du logiciel devrait également fournir une liste de scores de personnes ayant fait l’objet d’une évaluation six mois avant et après celle de la personne concernée. En l’espèce, il apparaissait que le score attestait d’une bonne solvabilité de la personne, contrairement à ce que prétendaient l’éditeur du logiciel et l’opérateur de téléphonique mobile.

Ainsi, la juridiction de renvoi s’est-elle notamment demandée si l’article 15, § 1, h), du RGPD précité incluait le droit de pouvoir vérifier l’exactitude des informations communiquées par le responsable du traitement et si le responsable du traitement pouvait opposer le secret d’affaires à une demande d’exercice du droit d’accès.

Interprétant la notion « d’informations utiles concernant la logique sous-jacente », la Cour de justice considère que le responsable du traitement doit expliquer « au moyen d’informations pertinentes et d’une façon concise, transparente, compréhensible et aisément accessible, la procédure et les principes concrètement appliqués pour exploiter, par la voie automatisée, les données à caractère personnel relatives à cette personne aux fins d’en obtenir un résultat déterminé, tel un profil de solvabilité ». Si cette communication inclut une information protégée par le secret d’affaires, « ce responsable est tenu de communiquer ces informations prétendument protégées à l’autorité de contrôle ou à la juridiction compétentes, auxquelles il incombe de pondérer les droits et les intérêts en...