Conseil et Parlement européens trouvent un accord sur l’IA Act

Les éditeurs devront prévoir un contrôle humain sur la machine. Le plus grand défi des années à venir.
 Filipp Romanovski / Unsplash / France-Soir

Après plus de 35 heures de négociations, le Conseil et le Parlement européens se sont entendus sur la législation pour réguler l’intelligence artificielle (IA). La signature, vendredi 8 décembre 2023, de l’IA Act, législation régissant l’usage et le développement de cette technologie, présentée en avril 2021 et adoptée par le Parlement européen en juin dernier, est une première mondiale. Le texte, qui entend limiter les dérives potentielles de l’IA comme la diffusion de contenus trompeurs et autres deepfakes, interdit son usage pour des systèmes de notation semblables au crédit social chinois, l’identification biométrique ou la surveillance. Les acteurs du marché, qui craignaient une régulation excessive, voire répressive, ont critiqué le texte.

Que prévoit le règlement européen sur l’intelligence artificielle ? Une fois le texte entré en vigueur, les sociétés seront dans l’obligation d’évaluer elles-mêmes les risques de leurs solutions et d’étiqueter les contenus générés par l’IA (images, vidéos, etc.). L’IA Act prévoit aussi le classement des systèmes selon un niveau des risques, allant de “minime” à “inacceptable” s’ils présentent “un préjudice significatif pour la santé, la sécurité, le maintien de l’ordre, l’éducation, les droits fondamentaux des personnes ou l'environnement”.

Les éditeurs devront aussi prévoir un contrôle humain sur la machine, établir une documentation technique et mettre en place un système de gestion du risque.

“Historique” pour Thierry Breton

Le texte a été adopté le 14 juin 2023 par une écrasante majorité du Parlement européen et depuis, des géants européens du numérique épiaient le début des négociations au sein de l’Union européenne (UE).

L’interdiction de l’identification biométrique avait été proposée par la Commission européenne en 2021 mais les eurodéputés s’y sont opposés. Une telle pratique rappelle, aux yeux de beaucoup, la vidéosurveillance de masse et le système de crédit social chinois.

"Historique ! L'UE devient le premier continent à fixer des règles claires pour l'utilisation de l'IA", s'est félicité Thierry Breton, commissaire européen à l'origine du projet, dans un post X. L’enjeu pour les États membres était d’aboutir à une régulation suffisamment restrictive pour prévenir les dérives sans étouffer dans l'œuf l’innovation naissante et portée par plusieurs startups, comme Aleph Alpha en Allemagne ou Mistral AI en France.

Les IA génératives furent également au cœur des discussions, après l’apparition d’outils comme ChatGPT et GPT-4 de la société californienne OpenAi, ou encore les générateurs de vidéos, de sons et d’images. Des centaines de personnalités du monde de la tech comme Elon Musk avaient appelé à un moratoire sur la recherche autour de l’IA. Dans une pétition, les signataires ont soulevé le danger que représente cette technologie pour l’humanité, les sociétés et les démocraties.

Les eurodéputés réclamaient particulièrement plus de transparence sur les algorithmes et les bases de données utilisées par ces systèmes. L’IA Act entend s’assurer de la qualité de la data et garantir le respect de la législation sur les droits d'auteurs. Quant aux systèmes les plus puissants, d’autres contraintes sont prévues par le texte, à la manière des autres réglementations comme le Digital Services Act (DSA).

“Une étape”, relativise Jean-Noël Barrot

En France, le ministre français du Numérique, Jean-Noël Barrot a réagi à la nouvelle. Sur un ton beaucoup moins enthousiaste que celui de Thierry Breton, il évoque la signature de l’accord comme “une étape”. “La France sera attentive à ce que la capacité d'innovation soit préservée en Europe. La meilleure protection que nous pouvons offrir à nos concitoyens, c'est d'avoir nos propres modèles européens d'intelligence artificielle”, a-t-il écrit. Il a fait savoir que ses services "vont analyser très attentivement le compromis trouvé et nous assurer dans les prochaines semaines que le texte préserve la capacité de l'Europe à développer ses propres technologies d'intelligence artificielle et préserve son autonomie stratégique". Si "l'Europe a raté le train des GAFAM, nous devons prendre un train d'avance sur l'IA”, se félicite M. Barrot.

Cet accord ne fait pas l’unanimité. Le responsable européen de la Computer & Communications Industry Association (CCIA), Daniel Friedlaender, a regretté que “la rapidité ait prévalu sur la qualité, avec des conséquences potentiellement désastreuses pour l'économie européenne". “Un travail technique” est "nécessaire" sur des détails cruciaux, estime-t-il.

Les négociations au sein de l’UE étaient appréhendées par des entreprises françaises et allemandes. Dans une lettre ouverte, Bitkom et Numeum, deux associations représentant les intérêts de plus de 5 000 entreprises du secteur des nouvelles technologies dans les deux pays, ont appelé les législateurs à maintenir une “approche fondée sur les risques afin de garantir que l’Union européenne renforce la compétitivité et le potentiel d’innovation” afin de ne pas se faire dépasser par les Américains et les Chinois. Avant elles, ce sont les dirigeants de 150 entreprises européennes, dont des sociétés françaises comme Airbus, Blablacar, Capgemini ou encore Ubisoft qui ont signé en juillet une lettre ouverte mettant en garde contre les conséquences de l’AI Act.

Les institutions européennes se dotent également de moyens de surveillance et de sanctions avec la création d'un office européen de l'IA au sein de la Commission européenne. Cet organe pourra infliger des amendes allant jusqu'à 7 % du chiffre d'affaires, avec un plancher de 35 millions d'euros pour les infractions les plus graves.

L’Europe semble donc prendre l’avance dans la régularisation et la normalisation de l’intelligence artificielle, sujette à une course effrénée entre la Chine et l’Occident.

Source