Panorama rapide de l’actualité « Technologies de l’information » de la semaine du 12 juin 2023

Intelligence artificielle

Adoption de l’IA Act le 15 juin 2023 à une très large majorité par le Parlement européen

• Le règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’Union (IA Act) suscite actuellement un intérêt mondial. Il s’agit d’un encadrement coercitif de l’IA sans précédent qui prend appui sur des cadres réglementaires européens existants.
  La première proposition de l’IA Act a été publiée en avril 2021, depuis, le Parlement européen et les comités concernés travaillaient sur le texte. Le 14 juin 2023, le Parlement européen a adopté une proposition de règlement composée de plusieurs milliers d’amendements : une première étape avant la rédaction législative concertée entre pays membres.
  Les objets principaux de ce texte sont : l’encadrement législatif des différentes technologies et systèmes utilisant l’intelligence artificielle et la prévention des risques pour la santé, la sécurité, les droits fondamentaux et la protection des données personnelles liés aux systèmes d’intelligence artificielle (SIA).
  Elle vise à établir une réglementation en distinguant trois niveaux de risques :
  - Les systèmes d’IA présentant des risques inacceptables sont interdits.
  - Ceux à haut risque sont soumis à des obligations de diligence imposées aux développeurs, utilisateurs professionnels et autres acteurs de la chaîne de valeur des SIA.
  - Quant aux systèmes d’IA présentant des risques acceptables, ils ne sont soumis à aucune obligation de diligence particulière, sauf dans certaines situations spécifiques telles que l’interaction avec les humains, la reconnaissance émotionnelle, la catégorisation biométrique et les « deep fakes ».
  La violation de ces obligations pourra entraîner diverses sanctions, y compris des amendes administratives.
  Les députés européens ont apporté des changements significatifs au texte :
  - La définition de l’IA a été alignée sur celle de l’OCDE.
  - De nouvelles interdictions ont été introduites pour les pratiques telles que les techniques subliminales, la catégorisation biométrique et la police prédictive.
  - Les logiciels de reconnaissance des émotions sont interdits dans certains domaines.
  - Des règles plus strictes ont été imposées aux applications d’IA à haut risque, avec des exigences de gestion des risques et d’évaluation du respect des droits fondamentaux et des règles de protection des données personnelles.
  - Un bureau de l’IA a été créé pour faciliter la coordination transfrontalière, avec une éventuelle transformation en agence numérique polyvalente.
  L’Union européenne poursuit ainsi son rôle de régulateur des technologies dans le respect des principes fondamentaux.

Données personnelles

Le robot conversationnel de Google à l’épreuve de la conformité au RGPD

• La Commission irlandaise de protection des données (DPC) a demandé à Google de repousser le lancement de son robot conversationnel « Bard » en Europe en raison d’un manque d’informations.
  Bard est une intelligence artificielle proche du fonctionnement de ChatGPT, basée sur la technologie de Google « Language Model for Dialogue Applications », un modèle d’intelligence artificielle conversationnelle capable d’un dialogue fluide à plusieurs tours.
  Google avait prévu sa mise à disposition au public européen cette semaine, mais la DPC n’a pas reçu toutes les informations nécessaires à la vérification de la conformité du système au RGPD. En particulier, et selon la législation européenne, Google doit fournir, avant lancement de son IA générative, une analyse d’impact sur la protection des données.
  Cette décision intervient alors que l’IA générative ChatGPT a été temporairement bloquée en Italie, et plusieurs plaintes ont été...