OpenAI va donner accès à ses modèles au gouvernement américain / Photo: Lionel BONAVENTURE - AFP/Archives
OpenAI va donner accès à ses modèles au gouvernement américain
OpenAI, l'entreprise qui a lancé l'intelligence artificielle (IA) générative ChatGPT, a passé un accord avec le gouvernement américain qui prévoit l'accès à ses nouveaux modèles de langage avant leur lancement, notamment pour identifier de possibles risques.
Les modèles de langage sont des logiciels permettant de générer, selon les cas, du texte, de l'image ou du son sur requête en langage courant, à l'instar de ChatGPT.
L'AI Safety Institute (Institut de la sécurité de l'intelligence artificielle), organe créé en 2023 par le gouvernement de Joe Biden, a conclu la même convention avec l'un des grands concurrents d'OpenAI, Anthropic, selon un communiqué publié jeudi.
Les deux start-up se sont engagées à collaborer avec l'institut pour "évaluer les capacités (des modèles) et les risques de sécurité", ainsi qu'à travailler à "des méthodes pour gérer ces risques", a indiqué l'AI Safety Institute.
"Ces accords ne sont qu'un début, mais ils marquent une étape importante pour aider à orienter vers une approche responsable l'avenir de l'IA", a déclaré Elizabeth Kelly, directrice de l'Institut, citée dans le communiqué.
La progression des grands modèles de langage (LLM) augmente sans cesse leurs capacités mais aussi les risques associés, en particulier en cas d'utilisation mal intentionnée.
"Une IA sûre et fiable est déterminante pour que cette technologie puisse avoir un impact positif", a expliqué à l'AFP Jack Clark, cofondateur d'Anthropic.
"Notre collaboration avec l'Institut va s'appuyer sur leur expérience pour tester avec rigueur nos modèles avant un déploiement large", a-t-il ajouté.
I.Saccomanno--PV
En vedette