Panorama rapide de l’actualité « Technologies de l’information » des semaines des 16, 23 et 30 décembre 2024

Intelligence artificielle

OpenAI condamnée sur le fondement du RGDP par l’autorité de protection des données italienne

• Les systèmes IA présentent un risque pour la protection des données personnelles et, par cette décision du 20 décembre 2024, l’autorité italienne de protection des données confirme la violation du RGDP en condamnant OpenAI à une amende de 15 millions d’euros.
  Cette décision a été rendue à la suite d’une enquête ouverte en mars 2023 qui a mis en évidence plusieurs lacunes dans la collecte, l’utilisation et la protection des données personnelles utilisées pour l’entraînement des modèles d’intelligence artificielle. La CNIL italienne avait suspendu temporairement ChatGPT (Provvedimento del 30 marzo 2023 [9 870 832] Registro dei provvedimenti n. 112 : Panorama rapide de l’actualité « Technologies de l’information » de la semaine du 3 avr. 2023, Dalloz actualité, 11 avr. 2023).
  L’autorité a également ordonné à OpenAI d’organiser d’ici mi 2025 une campagne d’information publique sur une période de six mois, visant à sensibiliser le public sur le traitement de leurs données personnelles, afin de rétablir la transparence et de garantir la conformité au RGPD.
  Les principales infractions relevées par l’autorité italienne sont les suivantes :
  - Absence de notification de la violation de données subie en mars 2023 ;
  - Absence de base légale pour le traitement des données dans l’entraînement des modèles d’IA, en violation de l’article 6 du RGPD, qui exige que tout traitement de données repose sur une base légale explicitement définie (par exemple, consentement, exécution d’un contrat, ou intérêt légitime démontré) ;
  - Manquement au principe de transparence dont dispose l’article 5 du RGPD quant à l’utilisation des données personnelles collectées, ne permettant pas aux utilisateurs de comprendre et contrôler le traitement de leurs données ;
  - Protection insuffisante des mineurs en raison de l’absence de mécanismes fiables pour vérifier l’âge des utilisateurs.
  Dans la mesure où le siège européen d’OpenAI est en Irlande, l’autorité italienne a transmis les documents de la procédure à l’autorité irlandaise de protection des données, devenue l’autorité de contrôle principale, afin qu’elle poursuive l’instruction d’éventuelles violations du RGPD.
  Cette décision de l’autorité italienne est susceptible de créer un effet « boule de neige » dans la mesure où le Comité européen de la protection des données (CEPD), dans son avis 28/2024 de décembre 2024, a rappelé que les responsables de traitement utilisant des modèles d’IA tiers doivent évaluer la source des données et vérifier si l’entraînement du modèle respecte le RGPD. Une constatation d’infraction, comme celle de l’autorité italienne, pourrait rendre illégales les utilisations ultérieures d’un modèle d’IA, exposant ainsi les entreprises utilisatrices à des risques juridiques majeurs.

Le Sénat fait le point sur les transformations opérées par l’intelligence artificielle sur les métiers du droit

• Le Sénat a publié le 18 décembre 2024 un rapport intitulé « L’intelligence artificielle générative et les métiers du droit : agir plutôt que subir ». Il examine les bouleversements induits par l’IA dans les professions juridiques et met en évidence la nécessité d’une régulation pour intégrer de manière viable ces technologies dans le quotidien des praticiens du droit, sans compromettre la justice.
  Les outils d’IA ont soulevé des inquiétudes chez certains praticiens du droit, qui craignent la perte d’autonomie professionnelle, la dépendance aux grandes plateformes technologiques, ou bien qui y voient une menace, tel fut par exemple le cas de l’application I.Avocat lancée en janvier 2024....