Panorama rapide de l’actualité « Technologie de l’information » des semaines du 12 et 19 février 2024

Intelligence artificielle

Elections électorales et IA - la Commission prend les devants

• Dans un contexte politique marqué par plusieurs élections prévues dans l’Union dans les mois à venir, notamment celles du Parlement européen en 2024, la Commission a lancé le 8 février 2024 une consultation publique afin de recueillir des avis sur le projet de lignes directrices du Digital Services Act (DSA) relatives à l’intégrité des processus électoraux.
  L’objectif affiché par la Commission est de présenter aux très grandes plateformes en ligne et aux moteurs de recherche les meilleures pratiques et les mesures possibles pour atténuer les risques systémiques sur leurs plateformes qui peuvent menacer l’intégrité des processus électoraux démocratiques, sur le fondement de l’article 35 du DSA.
  Les plateformes en ligne et les moteurs de recherche sont devenus des lieux importants pour façonner l’opinion publique et le comportement des électeurs. A cet égard, la Commission relève que la diffusion de discours haineux, de désinformation ou de manipulation de l’information, ainsi que les contenus générés par l’IA générative sur ces plateformes et moteurs de recherche, présentent des risques accrus pour l’intégrité des élections.
  Le projet de lignes directrices prévoit, de manière générale, d’intervenir dans les domaines suivants :
  - L’accès aux informations officielles sur le processus électoral ;
  - L’éducation aux médias ;
  - La contextualisation des informations ;
  - L’impact des influenceurs sur les choix électoraux ;
  - L’identification claire des publicités et messages politiques ;
  - La démonétisation des contenus de désinformation.
  S’agissant plus spécifiquement de l’IA qui peut être utilisée pour induire les électeurs en erreur ou manipuler les processus électoraux en créant et diffusant des contenus artificiels et des informations incorrectes, incohérentes ou fabriquées, la Commission recommande notamment de prendre les mesures suivantes :
  - Veiller à ce que les contenus d’IA générative puissent être clairement distingués par les utilisateurs, notamment au moyen d’un « watermark » ;
  - S’assurer que les informations fournies par l’IA générative reposent, dans la mesure du possible, sur des sources fiables dans le contexte électoral ;
  - Identifier clairement les images, sons ou vidéos synthétiques ou manipulés qui ressemblent sensiblement à des personnes, des objets, des lieux, des entités ou des événements existants, ou qui décrivent comme réels des événements qui ne se sont pas produits (« hypertrucages » ou « deepfakes ») – obligation que l’on retrouve dans les dispositions du projet de règlement européen sur l’IA (« AI Act »).
  Ces orientations resteront bien entendu valables après la tenue de ces élections du Parlement européen en 2024.
  Dans le prolongement de la publication de ces lignes directrices par la Commission européenne, les acteurs de l’IA dont Google, Microsoft, Meta, OpenAI, Adobe et Tik Tok) ont signé le 16 février dernier un accord portant sur les mesures envisagées pour limiter les risques des « hypertrucages » dans un contexte électoral. (Commission européenne, Lignes directrices à l’intention des fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne sur l’atténuation des risques systémiques pour les processus électoraux, 8 févr. 2024)

Le Royaume-Uni opte pour un modèle d’autorégulation

• Le 6 février 2024, le gouvernement britannique a publié sa réponse à la consultation lancée au sujet du Livre blanc sur l’Intelligence artificielle. Ce projet, intitulé : « Régulation de l’IA : Une approche favorable à l’innovation », avait été publié par le ministère de la Science, de l’Innovation et de la Technologie du gouvernement britannique le 29 mars 2023, avec l’objectif de promouvoir une innovation responsable en matière d’IA tout en abordant ses risques.
  Le Royaume-Uni adopte dans ce projet une approche sectorielle en faveur de l’innovation, en confiant la régulation des systèmes d’IA aux régulateurs sectoriels. Ces derniers doivent notamment s’appuyer sur les cinq principes édictés par le gouvernement (« cross-sectoral principles ») destinés à guider leur action : la sûreté des systèmes, la transparence des systèmes, la compatibilité des systèmes avec les lois existantes, la responsabilité des systèmes et leur contestabilité.
  Le gouvernement plaide ainsi en faveur d’une réglementation « agile » de l’IA, visant à doter les régulateurs des compétences et des outils nécessaires pour traiter efficacement les risques et les opportunités liés à l’IA. Il s’est notamment engagé à consacrer plus de 100 millions de livres à la création de centres de recherche responsables sur l’IA et à la formation continue des régulateurs dans différents secteurs. La réglementation de l’IA restera du ressort du gouvernement, mais il est envisagé de mettre en place un organisme de réglementation indépendant.
  L’approche sectorielle décrite dans ce projet diffère de celle proposée par la Commission européenne dans son projet de règlement (loi sur l’intelligence artificielle ou « AI Act ») puisqu’il ne s’agit pas d’une loi globale sur l’IA. Le gouvernement britannique fait peser sur les régulateurs la charge d’évaluer les risques dans leurs secteurs et d’adopter une approche proportionnée de la réglementation, adaptée à leurs domaines spécifiques.
  Ces derniers doivent publier leur approche sur cette réglementation de l’IA d’ici le 30 avril 2024. (Livre blanc sur l’encadrement de l’IA au Royaume-Uni)

Intelligence artificielle, données personnelles et utilisation du contenu généré : l’Assemblée nationale publie son rapport d’information

• L’Assemblée nationale répond aux défis soulevés par l’intelligence artificielle générative en matière de protection des données personnelles et d’utilisation du contenu généré. Parmi les propositions phares, la CNIL est pressentie pour devenir l’autorité...