Pallade Veneta - L'Assemblée générale de l'ONU appelle à réguler l'IA et ses risques

Cette résolution adoptée par consensus, à l'initiative des Etats-Unis, est "une étape historique pour l'établissement de règles internationales claires pour l'intelligence artificielle (IA)", a réagi la vice-présidente américaine Kamala Harris, insistant pour que ces technologies soient développées de façon à "protéger tout le monde des préjudices potentiels" tout en s'assurant que chacun puisse "profiter des avantages".

La résolution, qui exclut l'IA relevant du domaine militaire, souligne "qu'il faut établir des normes permettant de garantir que les systèmes d'intelligence artificielle soient sûrs, sécurisés et dignes de confiance".

Et ce, dans le but de "favoriser plutôt que d'entraver, la transformation numérique et l'accès équitable aux avantages que procurent ces systèmes", pour atteindre les Objectifs de développement durable de l'ONU qui visent à assurer un avenir meilleur pour l'humanité toute entière d'ici 2030.

La résolution est en effet principalement concentrée sur les gains potentiels de l'IA en matière de développement, et se dit "résolue à combler le fossé numérique" entre les pays et à l'intérieur des pays.

"L'accent sur le développement est un effort délibéré des Etats-Unis pour gagner la sympathie" de pays pauvres, a commenté auprès de l'AFP Richard Gowan, analyste à l'International Crisis Group.

C'est "plus facile" que "d'attaquer de front les questions de sécurité, pour une première initiative".

L'ambassadrice américaine à l'ONU Linda Thomas-Greenfield a ainsi mis en avant les "opportunités" de l'IA pour "accélérer la lutte contre la pauvreté, sauver des vies, protéger notre planète", évoquant notamment le diagnostic médical ou l'agriculture.

Mais l'IA pose aussi des "défis existentiels universels", a-t-elle insisté, s'inquiétant notamment des "deepfakes" qui risquent de "saper l'intégrité du débat politique en cette année où plus de la moitié du monde va élire ses dirigeants".

- "Algorithmes dominés par les hommes" -

Le texte souligne d'ailleurs les menaces posées par des technologies conçues ou utilisées "à mauvais escient ou avec l'intention de nuire". Il reconnaît aussi que sans la mise en place de "garanties", l'IA risque de nuire aux droits humains, de renforcer les préjugés et les discriminations et de mettre en danger la protection des données personnelles.

Il demande ainsi à tous les Etats membres et autres parties prenantes de "s'abstenir ou de cesser de se servir des systèmes d'intelligence artificielle qu'il est impossible d'utiliser dans le respect des droits humains ou qui présentent des risques excessifs pour l'exercice des droits humains".

Les mises en garde se multiplient concernant en particulier les outils d'IA générative et les risques qu'ils présentent pour la démocratie et la société, notamment via la création de fausses images et discours qui s'immiscent dans les campagnes électorales.

Le secrétaire général de l'ONU Antonio Guterres a fait de la régulation de l'IA une de ses priorités, appelant à la création d'une entité onusienne sur le modèle par exemple de l'Agence internationale de l'énergie atomique (AIEA).

Soulignant régulièrement les menaces liées à la désinformation et aux préjugés, il a la semaine dernière alerté sur les "partis pris" de technologies conçues principalement par des hommes et qui "ignorent" les besoins et les droits des femmes.

"Des algorithmes dominés par les hommes pourraient littéralement programmer des inégalités dans des activités comme la planification urbaine, la solvabilité ou l'imagerie médicale, pour des années".

"Je ne pense pas que les Etats-Unis veuillent laisser Guterres mener cette conversation si sensible, alors ils entrent en jeu pour modeler le débat", a estimé Richard Gowan, décrivant une "course" entre les Etats-Unis, la Chine ou d'autres Etats pour être aux avant-postes sur cette question de société.

Le Parlement européen a lui adopté en mars une législation unique au monde pour encadrer les systèmes d'IA comme ChatGPT.

"Cette résolution n'est pas une fin en soi, c'est le début de notre voyage collectif", a commenté jeudi l'ambassadeur marocain à l'ONU Omar Hilale, la voyant comme une "étape" pour de futures initiatives multilatérales en la matière.

C.Grillo--PV