La Grande-Bretagne et les États-Unis ont signé un accord pour développer des tests de sécurité de l'intelligence artificielle

Le Royaume-Uni et les États-Unis ont signé un accord historique pour travailler ensemble au développement de tests rigoureux des systèmes avancés d’intelligence artificielle, une avancée majeure pour garantir leur déploiement en toute sécurité.

Le protocole d'accord, signé lundi par la secrétaire britannique à la Technologie Michelle Donelan et la secrétaire américaine au Commerce Gina Raimondo, établit un partenariat pour aligner les approches scientifiques des deux pays afin d'itérer rapidement des méthodes robustes pour évaluer les modèles, systèmes et agents avancés d'IA.

Dans le cadre de cet accord, le nouvel AI Security Institute du Royaume-Uni et la future organisation américaine partageront leur expertise en matière de recherche pour atténuer les risques liés à l'IA, notamment sur la manière d'évaluer de manière indépendante les modèles d'IA privés d'entreprises telles qu'OpenAI. Ce partenariat s'appuie sur la coopération en matière de sécurité entre le GCHQ et la National Security Agency.

"Cet accord constitue un moment historique alors que le Royaume-Uni et les États-Unis approfondissent leurs relations privilégiées de longue date pour relever les défis technologiques déterminants de notre génération", a déclaré Donelan. "Ce n'est qu'en travaillant ensemble que nous pourrons surmonter les risques associés à la technologie et exploiter son énorme potentiel pour nous aider tous à vivre une vie plus simple et plus saine."

Le partenariat fait suite aux engagements pris lors de l’AI Security Summit qui s’est tenu au Royaume-Uni en novembre dernier. Les instituts prévoient d’élaborer une approche commune des tests de sécurité de l’IA et de partager leurs capacités pour lutter efficacement contre les risques. Ils ont l'intention de mener au moins un test public conjoint d'un modèle d'intelligence artificielle librement disponible et d'explorer les échanges de personnel.

Raimondo a souligné l'importance de la collaboration en déclarant : « L'intelligence artificielle est la technologie déterminante de notre génération. Ce partenariat accélérera le travail de nos deux institutions sur l'éventail des risques, tant pour notre sécurité nationale que pour la société dans son ensemble. »

Les deux gouvernements reconnaissent le développement rapide de l’intelligence artificielle et le besoin urgent d’une approche mondiale commune en matière de sécurité, capable de suivre le rythme des risques émergents. Le partenariat entre en vigueur immédiatement, garantissant une collaboration transparente entre les organisations.

"En travaillant ensemble, nous favorisons une relation spéciale à long terme entre les États-Unis et le Royaume-Uni et jetons les bases de la sécurité de l'IA, aujourd'hui et à l'avenir", a ajouté Raimondo.

En plus des capacités communes de test et de partage, le Royaume-Uni et les États-Unis partageront des informations vitales sur les capacités, les risques et la recherche technique fondamentale des modèles d’IA. Cela vise à soutenir un cadre scientifique commun pour les tests de sécurité de l’IA qui puisse être adopté par les chercheurs du monde entier.

Malgré l’accent mis sur les risques, Donelan a insisté sur le fait que le Royaume-Uni n’avait pas l’intention de réglementer l’IA de manière plus large à court terme. En revanche, le président Joe Biden a adopté une position plus ferme à l'égard des modèles d'IA qui menacent la sécurité nationale, la loi européenne sur l'IA adoptant des règles plus strictes.

Les experts du secteur ont salué cette collaboration comme étant essentielle pour instaurer la confiance et la sécurité dans le développement et la mise en œuvre de l'intelligence artificielle dans des secteurs tels que le marketing, la finance et le service client.

« Veiller à ce que le développement et l'utilisation de l'IA soient régis par la confiance et la sécurité est d'une importance primordiale », a déclaré Ramprakash Ramamoorthy de Zoho. « Prendre des mesures pour protéger les données d'apprentissage réduit les risques et renforce la confiance entre ceux qui mettent en œuvre des solutions d'IA. »

Le Dr Henry Balani d'Encompass a ajouté : « L'atténuation des risques liés à l'IA grâce à cet accord de coopération avec les États-Unis est une étape clé pour réduire les risques de criminalité financière, favoriser la collaboration et soutenir l'innovation dans un secteur technologique important et émergent.