Towards Consensus on AI Science and Governance
Lors de la 80ème session de l’Assemblée générale des Nations Unies à New York le mois dernier, les États membres de l’ONU ont officiellement lancé deux nouvelles initiatives : le Dialogue Global sur la Gouvernance de l’IA et le Panel Scientifique International Indépendant sur l’IA. Ces initiatives découlent du Global Digital Compact et ont été légitimées dans la résolution A/RES/79/325, adoptée officiellement le 26 août.
Avant leur inclusion dans le Global Digital Compact, ces initiatives figuraient parmi les recommandations rapportées en septembre 2024 par le High-level Advisory Body on Artificial Intelligence, proposé initialement en 2020 dans le cadre de la Roadmap for Digital Cooperation.
Dialogue Global sur la Gouvernance de l’IA
Le Dialogue Global sur la Gouvernance de l’IA fournira une plateforme inclusive au sein des Nations Unies pour que les États et les parties prenantes discutent des questions critiques concernant l’IA. Il promouvra l’interopérabilité entre les différentes branches de gouvernance et encouragera l’innovation ouverte. En complément des initiatives internationales existantes, comme le Hiroshima AI Process du G7, il vise à créer un espace stable pour coordonner la gouvernance de l’IA et aider à construire des systèmes d’IA sûrs, sécurisés et dignes de confiance.
Ce focus sur l’inclusion des 193 États membres a été salué par le Forum Économique Mondial, qui a noté que 118 pays ne sont partis à aucune initiative internationale significative de gouvernance de l’IA.
Panel Scientifique International Indépendant sur l’IA
Le Panel Scientifique International Indépendant sur l’IA servira de pont crucial entre la recherche de pointe en IA et l’élaboration de politiques. En fournissant des évaluations scientifiques rigoureuses et indépendantes, il aidera la communauté internationale à anticiper les défis émergents et à prendre des décisions éclairées sur la gouvernance de cette technologie transformative. Composé de 40 experts mondiaux, le panel produira un rapport scientifique annuel sur les risques, les opportunités et l’impact de l’IA.
Un appel à candidatures pour les membres du panel a été lancé, et le panel sera dirigé par deux co-présidents, l’un provenant d’un pays développé et l’autre d’un pays en développement.
Défis et Critiques
Bien que les nouvelles initiatives de gouvernance de l’IA de l’ONU aient été proclamées comme un triomphe symbolique, elles font face à plusieurs défis :
1. Les institutions internationales basées sur la représentation ont du mal à suivre les technologies en évolution rapide et leurs capacités. Elles peuvent ne pas être capables de répondre efficacement aux crises imprévisibles.
2. Même si une action coordonnée était possible, l’ONU manque de moyens pour faire respecter ses résolutions. La coopération est volontaire, ce qui signifie que tout pays développant des IA, comme les États-Unis ou la Chine, pourrait se retirer sans que cela n’affecte les résolutions.
3. Le financement de ces initiatives ambitieuses est problématique. Toutes les activités de l’ONU dépendent du financement des États membres. La durabilité financière des nouvelles initiatives est incertaine, surtout avec les récentes annonces de réévaluation du financement international par les États-Unis.
4. Enfin, se pose la question de savoir si l’objectif des initiatives est de favoriser la meilleure recherche possible sur la gouvernance de l’IA pour la sécurité et la transparence, ou de développer des règles qui répondent à des objectifs de développement social plus larges.
En conclusion, bien que l’ONU mérite une certaine reconnaissance pour avoir atteint une coopération internationale imparfaite sur l’IA, son impact potentiel reste à déterminer.
