Pallade Veneta - Sam Altman (OpenAI) au G7: "ne cédez pas vos responsabilités aux acteurs de l'IA"

Le directeur général de la start-up californienne derrière ChatGPT avait été invité au sommet au même titre que d'autres responsables du secteur comme Dario Amodei d'Anthropic ou Demis Hassabis de Google.

"Nous avons besoin d'un forum international de discussion qui établisse des standards consensuels au niveau mondial pour tester" les modèles d'IA, a-t-il exhorté.

Cette instance de coopération aurait aussi, selon lui, pour vocation "de fournir des analyses impartiales d'experts sur les capacités et les risques" de ces logiciels d'IA les plus avancés.

Les discussions menées mercredi dans le cadre du G7 ont notamment porté sur le numérique, certains membres européens souhaitant davantage de sécurité et de régulation.

Lors d'un échange avec des journalistes, le responsable des affaires publiques d'OpenAI, Chris Lehane, également présent à Evian, a dit avoir observé une "convergence" des membres du G7 et des cinq pays invités autour de cette idée de plateforme transnationale dédiée à l'IA.

Il s'agit "de déterminer, à terme, s'il y a un moyen de créer des standards de sécurité pour l'IA", des "garde-fous qui serviraient de base pour les pays participants à ce forum", a expliqué le responsable.

Depuis l'investiture de Donald Trump à la présidence, les Etats-Unis s'étaient, jusqu'ici, montrés réticents à toute forme de régulation transnationale.

Le gouvernement américain a longtemps freiné toute tentative d'encadrement de l'IA aux Etats-Unis, considéré comme un obstacle à l'innovation.

Mais début juin, effectuant un virage remarqué, Donald Trump a pris un décret prévoyant que les entreprises soumettent, sur la base du volontariat, leurs nouveaux modèles d'IA au gouvernement avant commercialisation.

Vendredi, le ministère américain du Commerce a enjoint Anthropic de bloquer l'accès de ses nouveaux modèles Mythos 5 et Fable 5 à tout ressortissant étranger, contraignant la start-up à les mettre hors ligne.

Le gouvernement a justifié sa décision par le fait que ces interfaces constituaient un risque pour la sécurité nationale des Etats-Unis.

Début avril, Anthropic avait décidé de repousser la mise en ligne de Mythos pour le grand public, estimant qu'il présentait des risques trop importants en matière de sécurité.

L'entreprise a néanmoins donné accès à Mythos à quelques dizaines d'organisations afin de leur permettre de combler des vulnérabilités logicielles avant une diffusion plus large du modèle.

Fable 5, lancé la semaine dernière avant d'être suspendu quelques jours plus tard, est une version bridée de Mythos, avec des garde-fous censés empêcher son utilisation pour des attaques informatiques ou la mise au point d'armes biologiques et chimiques.

P.Colombo--PV