Pallade Veneta - Peut-on "éteindre" une intelligence artificielle ?

Au moment où les incidents de sécurité liés à des IA se multiplient et les inquiétudes sur les dangers de cette technologie s'intensifient, la question émerge.

Existe-t-il un "interrupteur d'urgence" ?

"Dans le domaine de la cybersécurité liée à IA", un interrupteur d'urgence ou "kill switch", en anglais, "désigne la capacité d'interrompre l'exécution de l'action d'un agent d'IA" - un programme bâti sur un modèle d'IA générative capable d'enchaîner seul une série de tâches -, explique à l'AFP Nicolas Papernot, professeur à l'Université de Toronto et spécialiste de la sécurité informatique et de l'intelligence artificielle.

Ce mécanisme devrait pouvoir être activé notamment si une IA échappait à tout contrôle et présentait un risque pour la sécurité.

Une IA reste un "programme informatique". "La personne ou l'organisation qui l'a déployé peut l'arrêter en lui refusant l'accès à la puissance de calcul nécessaire à son exécution", ajoute le chercheur.

La situation se complique si le programme a été autorisé à agir au-delà de son environnement initial.

Le chercheur cite le scénario d'un "ver informatique" (logiciel malveillant) piloté par l'IA qui se propagerait en utilisant les ressources d'autres appareils pour se dupliquer. "Dans ce cas, il faudrait interrompre simultanément toutes les copies générées par le ver, appareil par appareil", explique-t-il.

Pour Jean-Gabriel Ganascia, professeur d'informatique à Sorbonne Université, le débat sur le "kill switch" peut nourrir l'idée "d'un risque métaphysique" avec une IA qui serait dotée d'une volonté propre, alors que le risque le plus concret tient selon lui à notre dépendance croissante à ces systèmes.

Peut-on vraiment éteindre une IA ?

"On ne peut pas vraiment couper l'IA comme ça, il y a énormément d'entreprises dans le monde entier, de logiciels, de services différents", explique-t-il. "Il n'y a personne qui contrôle l'IA" dans son ensemble.

En revanche, il est techniquement possible d'arrêter un système précis lorsque l'on contrôle les machines et les services dont il dépend.

Dans un article publié sur LinkedIn, Hussein Abbass, professeur d'informatique à l'université de Nouvelle-Galles du Sud (UNSW) de Canberra, distingue toutefois trois niveaux de complexité.

Dans le premier, le système reste dans l'environnement contrôlé par son opérateur: la mise en place d'un dispositif d'arrêt d'urgence est alors "théoriquement et pratiquement réalisable".

Dans le deuxième, l'agent dispose de permissions pour intervenir sur d'autres logiciels, fichiers ou machines: il devient plus difficile de tout arrêter, notamment les actions qu'elle a déjà déclenché.

Dans le troisième scénario, le système a étendu son action à plusieurs systèmes, l'IA devient un électron libre et l'enjeu devient moins de l'"éteindre" que d'identifier les éléments à couper en priorité.

"Une fois que c'est parti, c'est un peu comme un virus informatique", résume Thierry Poibeau.

Quels sont les risques d'un "kill switch" ?

Plus l'IA s'intègre aux activités quotidiennes, plus son arrêt risque aussi de paralyser des usages légitimes.

À mesure que "nous automatisons toujours plus d'aspects de la vie quotidienne grâce à l'IA", il deviendra "de plus en plus difficile de distinguer une IA malveillante d'une IA inoffensive et, par conséquent, de savoir ce qu'il faut +éteindre+", explique Nicolas Papernot.

Stopper un système d'IA pourrait ainsi dégrader des services dont dépendent déjà entreprises, administrations ou établissements de santé.

"Dans un scénario de réelle perte de contrôle" des agents d'IA "il serait possible de désactiver l'IA en déconnectant toute la puissance de calcul", mais "les coûts et les conséquences négatives seraient considérables", ajoute M. Papernot.

"On peut toujours arrêter les machines", résume Jean-Gabriel Ganascia. Mais, à mesure qu'elles prennent une place croissante dans l'organisation de la société, "en même temps, on ne peut pas les arrêter".

T.Galgano--PV