Le 11 mai 2023, deux commissions du Parlement européen ont franchi une étape cruciale en approuvant un projet de loi visant à interdire un large éventail d’utilisations dangereuses de l’IA. La nouvelle AI Act de l’UE a été approuvée par les commissions du marché intérieur et des libertés civiles, composées de députés européens chargés de superviser l’élaboration de la législation. Le projet de loi a été soutenu par 84 voix pour, 7 contre et 12 abstentions.
Les principales mesures du projet de loi
Le projet de loi interdit les programmes de reconnaissance faciale de masse envahissants dans les espaces publics et les algorithmes dangereux de police prédictive qui tentent de manière abusive d’identifier les futurs délinquants à l’aide de données personnelles confidentielles. Il exige également la création d’une base de données transparente et accessible au public pour les systèmes d’IA “à haut risque” déployés par les autorités afin de tenir les citoyens de l’UE informés de leur impact potentiellement problématique.
Le projet de loi modifié introduit de nouvelles mesures pour contrôler les “systèmes d’IA à usage général” ou “fondamentaux”, qui sont des modèles d’IA à grande échelle pouvant servir à plusieurs objectifs. Ces mesures comprennent une évaluation approfondie et une réduction minutieuse des risques avant la mise à disposition de ces outils potentiellement dangereux.
Les concepteurs de ces systèmes auront également de nouvelles responsabilités, telles que l’analyse de leur impact environnemental et la divulgation transparente de l’utilisation de données d’apprentissage protégées par le droit d’auteur. Une autre disposition clé est la création d’une base de données publique des systèmes d’IA à usage général et à haut risque pour expliquer de manière claire et pédagogique où, quand et comment ils sont déployés dans l’UE.
Un projet de loi encore sujet à modifications
Le projet de loi doit encore être modifié. Après son approbation par les commissions du Parlement européen, il sera soumis au vote en séance plénière le mois prochain, puis aux négociations à huis clos avec les États membres de l’UE et les organes de contrôle de l’UE. Certaines dispositions de la législation provoqueront probablement des “tensions vives” avec les États membres. La AI Act devra être adoptée avant le printemps 2024.
Les défenseurs des droits numériques ont salué les modifications apportées au projet de loi, mais ont souligné que son efficacité dépendra de sa mise en œuvre. La création de la base de données est une étape importante pour la transparence, mais elle ne concerne que les systèmes déployés par les autorités publiques, ce qui en limite l’utilité.
Néanmoins, le projet de loi représente une étape décisive pour encadrer l’utilisation de l’IA en Europe et pourrait avoir des répercussions mondiales, de nombreuses entreprises technologiques se conformant aux réglementations spécifiques de l’UE à l’échelle mondiale pour réduire les frictions liées à la gestion de normes multiples.