Pallade Veneta - Le Parlement européen vote pour mieux encadrer ChatGPT

L'Union européenne veut être la première au monde à se doter d'un cadre juridique complet pour limiter les dérives de l'intelligence artificielle (IA), tout en sécurisant l'innovation.

Bruxelles a proposé il y a deux ans un projet de règlement ambitieux, mais son examen traîne en longueur, retardé ces derniers mois par les controverses sur les dangers des IA génératives capables de créer des textes ou des images.

Les États membres de l'UE ont seulement défini leur position fin 2022.

Les eurodéputés, très divisés, entérineront la leur lors d'un vote en commission prévu vers 09H00 à Strasbourg et qui devra être confirmé en plénière en juin. S'ouvrira ensuite une difficile négociation entre les différentes institutions.

"Nous avons un texte équilibré qui vise clairement la protection des personnes mais n'oublie pas le besoin d'innover", s'est félicité mercredi l'eurodéputé social-démocrate Brando Benifei, corapporteur du texte.

D'une grande complexité technique, les systèmes d'intelligence artificielle fascinent autant qu'ils inquiètent.

S'ils peuvent sauver des vies en permettant un bond en avant des diagnostics médicaux, ils sont aussi exploités par des régimes autoritaires pour exercer une surveillance de masse des citoyens.

Le grand public a découvert leur potentiel immense à la fin de l'année dernière avec la sortie du générateur de contenus rédactionnels ChatGPT de la société californienne OpenAI qui peut rédiger des dissertations originales, des poèmes ou des traductions en quelques secondes.

Mais la diffusion sur les réseaux sociaux de fausses images, plus vraies que nature, créées à partir d'applications comme Midjourney, a alerté sur les risques de manipulation de l'opinion.

Des personnalités scientifiques ont même réclamé un moratoire sur le développement des systèmes les plus puissants, en attendant qu'ils soient mieux encadrés par la loi.

La position du Parlement, qui doit être approuvée jeudi, confirme dans ses grandes lignes l'approche de la Commission. Le texte s'inspire des réglementations existantes en matière de sécurité des produits et imposera des contrôles reposant d'abord sur les entreprises.

- L'humain doit garder le contrôle -

Le cœur du projet consiste en une liste de règles imposées aux seules applications jugées à "haut risque" par les entreprises elles-mêmes à partir des critères du législateur. Pour l'exécutif européen, il s'agirait de tous les systèmes utilisés dans des domaines sensibles comme les infrastructures critiques, l'éducation, les ressources humaines, le maintien de l'ordre ou la gestion des migrations...

Parmi les obligations: prévoir un contrôle humain sur la machine, l'établissement d'une documentation technique, ou encore la mise en place d'un système de gestion du risque...

Leur respect sera contrôlé par des autorités de surveillance désignées dans chaque pays membre.

Les eurodéputés veulent limiter les obligations aux seuls produits susceptibles de menacer la sécurité, la santé ou les droits fondamentaux. Un assouplissement contesté par certains groupes politiques comme les Verts.

Le Parlement européen entend mieux prendre en compte les IA génératives du type ChatGPT en réclamant un régime spécifique d'obligations qui reprennent essentiellement celles prévues pour les systèmes à haut risque.

Les eurodéputés souhaitent aussi contraindre les fournisseurs à mettre en place des protections contre les contenus illégaux et à révéler les données (textes scientifiques, musiques, photos, etc.) protégées par des droits d'auteur et utilisées pour développer leurs algorithmes.

La proposition de la Commission, dévoilée en avril 2021, prévoit déjà un encadrement des systèmes d'IA qui interagissent avec les humains. Elle les obligera à informer l'utilisateur qu'il est en relation avec une machine et contraindra les applications générant des images à préciser qu'elles ont été créées artificiellement.

Les interdictions seront rares. Elles concerneront les applications contraires aux valeurs européennes comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine.

Les eurodéputés veulent y ajouter l'interdiction des systèmes de reconnaissance des émotions et supprimer les dérogations autorisant l'identification biométrique à distance des personnes dans les lieux publics par les forces de l'ordre.

Ils entendent aussi interdire la récolte en masse de photos sur internet pour entraîner les algorithmes sans l'accord des personnes concernées.

A.Tucciarone--PV