La gestion et la gouvernance des données sont essentielles au succès des initiatives d’IA, selon des experts. Ils soulignent que la réussite de l’IA dépend d’une base de données solide et d’une approche structurée pour la mise en œuvre et l’éthique.
Les responsables américains ont rejeté une proposition visant à établir un cadre de gouvernance mondial de l’IA lors de l’Assemblée générale des Nations Unies, malgré le soutien de nombreux pays, y compris la Chine. Le directeur du Bureau de la science et de la politique technologique des États-Unis a déclaré que Washington rejetait totalement les efforts des organisations internationales pour « assertion de contrôle centralisé et de gouvernance mondiale de l’IA ».
Dans un monde en évolution rapide de l’intelligence artificielle, les entreprises adoptent de plus en plus des systèmes d’IA agentique, mais cela entraîne un nouveau défi : l’expansion incontrôlée de l’IA agentique, qui menace de créer des environnements chaotiques avec des agents d’IA opérant indépendamment. Les experts soulignent l’importance d’établir des cadres de gouvernance adéquats pour éviter des vulnérabilités de sécurité et des inefficacités opérationnelles.
Le monde en pleine expansion de l’intelligence artificielle (IA) est à un tournant critique, alors qu’une vague d’actions réglementaires souligne un virage mondial vers la responsabilité et le déploiement éthique. Les développements récents signalent un changement immédiat et profond, impliquant des coûts de conformité accrus pour les entreprises utilisant l’IA et une demande accrue de transparence dans la prise de décision alimentée par l’IA.
Alors que l’adoption de l’IA générative s’accélère, les risques associés deviennent de plus en plus préoccupants. Cet article explore comment les outils de gouvernance de l’IA peuvent aider à gérer ces risques et à favoriser une adoption plus sûre et fiable de l’IA.
Les Nations Unies cherchent à influencer directement la politique mondiale sur l’intelligence artificielle, en promouvant des normes politiques et techniques autour d’une IA « sûre, sécurisée et digne de confiance ». Un nouveau panel d’experts sera constitué pour développer des normes scientifiques, techniques et politiques, favorisant ainsi un dialogue international sur la gouvernance de l’IA.
La Commission européenne a publié des lignes directrices provisoires sur les exigences de déclaration des incidents graves pour les systèmes d’IA à haut risque dans le cadre de la loi sur l’IA de l’UE. Les organisations doivent se préparer à signaler ces incidents aux autorités nationales, avec des délais de déclaration variant de deux à quinze jours selon la gravité de l’incident.
L’Office du Commissaire à la vie privée pour les données personnelles de Hong Kong a publié des directives pratiques sur l’adoption de l’intelligence artificielle (IA) pour encourager les organisations à développer des politiques internes. Celles-ci doivent aborder des domaines clés tels que l’utilisation permise, la protection de la vie privée des données personnelles, et l’utilisation éthique et sécurisée de l’IA.
La sécurité de l’IA générative nécessite une gouvernance solide de la part de la direction pour atténuer les risques tels que les violations de données et les échecs de conformité. Il est impératif que la sécurité de l’IA soit priorisée au niveau du conseil d’administration pour éviter les outils non autorisés et garantir une supervision adéquate.
En septembre 2024, Atlassian a participé au lancement du Pacte de l’UE sur l’IA à Bruxelles, s’engageant à respecter des pratiques responsables en matière d’IA. Un an plus tard, la société a publié un rapport sur ses avancées concernant ses engagements, soulignant les actions et leçons apprises dans le cadre de la gouvernance IA responsable.
