Régulation et règlementation des usages de l’IA dans la justice : état des lieux

Les choses se sont accélérées ces derniers mois avec l’essor de l’IA générative et des LLM (large language models). Ces systèmes capables de générer des contenus – textes, sons, images…– ont en effet impulsé une nouvelle dynamique aux réflexions et travaux visant à encadrer les usages de l’IA général. La Chine a ainsi adopté cette année une réglementation sur le recours aux services d’IA générative, dont les mesures – provisoires – sont entrées en application en août 2023. Aux États-Unis, un décret présidentiel signé fin octobre 2023 impose de nouvelles règles pour la création de grands modèles d’IA : obligation de réaliser des tests standardisés pour évaluer les risques, d’apposer un marquage pour identifier les contenus générés par ces systèmes d’IA, de transmettre à l’administration les résultats des tests de sécurité effectués sur les modèles d’IA générative si ces derniers présentent « un risque sérieux en matière de sécurité nationale, de sécurité économique nationale, ou de santé publique… »

Négociations tendues sur l’AI Act européen

Si l’Union européenne a été pionnière par sa volonté à instaurer un cadre réglementaire aux usages de l’IA, les ultimes négociations sur l’AI Act, le projet de règlement européen, ont été très tendues début décembre. En cause : des désaccords sur la réglementation des « modèles de fondation » (les grands systèmes de traitement du langage ou de l’image utilisés pour créer des services comme ChatGPT ou Midjourney) que certains pays, dont la France, l’Allemagne et l’Italie, jugeaient trop stricte. Les négociateurs ont réussi à trouver un terrain d’entente et un équilibre entre régulation et innovation, afin de ne pas nuire à la compétitivité et la souveraineté technologique de l’Europe sur ce terrain.

Un projet de traité international contraignant

Autre initiative assez avancée : le projet de convention-cadre sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit du Conseil de l’Europe. Il s’agirait du premier traité international juridiquement contraignant sur le développement, la conception et l’application des systèmes d’IA. La dernière mouture du texte devrait être arrêtée au premier trimestre...