À mesure que l’intelligence artificielle (IA) progresse et s’intègre de plus en plus dans nos vies, des questions complexes se posent concernant la sécurité, l’éthique et l’équité sociale. La crise récente de gouvernance chez OpenAI a ravivé le débat sur la manière dont les institutions peuvent encourager l’innovation tout en veillant à ce que les avantages de l’IA soient largement partagés.
Les communautés décentralisées offrent une approche améliorée pour harmoniser l’IA avec le bien-être humain, en permettant une gouvernance communautaire qui démocratise le développement de l’IA. Cela permet de transformer l’IA d’un outil de contrôle en une infrastructure orientée vers le bien commun.
Le président Lee Jae-myung a déclaré qu’il est temps de rechercher de nouvelles structures de gouvernance pour faire face aux menaces posées par l’intelligence artificielle (IA) lors d’un débat ouvert au Conseil de sécurité de l’ONU. Il a souligné l’importance de la coopération internationale pour garantir que les innovations technologiques apportées par l’IA contribuent à la paix et à la sécurité mondiales.
L’IA offre de nombreuses possibilités aux entreprises, mais elle perturbe également la gouvernance et la supervision informatique. Un nouveau rapport montre que 82 % des répondants estiment que les risques liés à l’IA accélèrent les délais de modernisation de leurs stratégies de gouvernance.
Les États adoptent rapidement l’intelligence artificielle pour répondre aux besoins de leurs résidents, en mettant l’accent sur la transparence et la sécurité. Des États comme la Pennsylvanie, le New Jersey et l’Utah se distinguent par leurs stratégies innovantes et responsables en matière d’IA.
Le Conseil de sécurité de l’ONU a discuté des risques et des avantages de l’intelligence artificielle, appelant à une gouvernance mondiale pour son utilisation responsable. De nouveaux organes de l’ONU, dont un forum mondial sur l’IA et un panel scientifique indépendant, ont été proposés pour superviser ces efforts.
La Clinique de Gouvernance de l’IA (AIGC) en Thaïlande, créée en 2022, vise à renforcer la capacité de gouvernance de l’IA à travers divers programmes, notamment un programme de bourses et un outil de mise en œuvre de l’éthique de l’IA. Les premiers enseignements soulignent l’importance de l’engagement et de la confiance mutuelle pour construire une plateforme collaborative, ainsi que la nécessité de prioriser les enjeux de gouvernance selon le contexte local.
L’intégration de principes éthiques dans le développement de l’IA nécessite une approche multi-parties prenantes, impliquant non seulement les développeurs, mais aussi les utilisateurs professionnels et les clients. Lors d’un panel, il a été souligné que la technologie ne doit pas être le point de départ, mais qu’il faut plutôt se concentrer sur la perspective de l’utilisateur pour créer des solutions efficaces et sécurisées.
La gouvernance responsable de l’IA ne doit pas commencer — encore moins se terminer — par la conformité légale. Les entreprises doivent évaluer les risques de chaque système d’IA indépendamment de la définition de « haut risque » des lois, en tenant compte de leur tolérance au risque, de l’éthique et de la réputation.
Aucun des sept grandes entreprises d’IA évaluées, y compris OpenAI et Google DeepMind, n’a obtenu une note supérieure à D en matière de « planification de la sécurité existentielle ». Les systèmes d’IA autonomes exigent une surveillance continue et des capacités d’intervention immédiate pour prévenir les hallucinations agentiques.