La transition des chatbots aux agents intelligents soulève de nouveaux défis en matière de gouvernance et de sécurité. Une gestion responsable des agents IA nécessite de définir l’étendue de leurs capacités en fonction du contexte dans lequel ils opèrent.
Project 20x a lancé sa plateforme de gouvernance native à l’IA pour aider les agences gouvernementales à fonctionner plus efficacement tout en augmentant la transparence et la responsabilité. Ce système traduit des programmes gouvernementaux complexes en flux de travail numériques automatisés, rendant les services publics plus efficaces et responsables.
Après le Gala annuel des droits des consommateurs en Chine, qui a mis en lumière le phénomène de « poisonnement de l’IA » via l’optimisation des moteurs génératifs (GEO), certaines start-ups de l’industrie GEO ont promis de respecter des pratiques conformes en matière d’optimisation de la recherche en IA.
Le 6 mars, le Comité des communications et du numérique de la Chambre des Lords a publié son rapport sur l’IA, le droit d’auteur et les industries créatives, visant à soutenir les discussions sur la réforme du droit d’auteur au Royaume-Uni. Le Comité recommande notamment d’exclure un modèle d’exception commerciale pour l’utilisation des œuvres protégées dans la formation de modèles d’IA.
Wa’ed Ventures, le fonds de capital-risque de 500 millions de dollars sous Saudi Aramco, a annoncé un investissement stratégique dans Resemble AI, une entreprise de sécurité spécialisée dans la détection de deepfakes. Cette initiative vise à soutenir l’expansion de Resemble AI au Moyen-Orient face à une augmentation alarmante de la fraude générée par l’IA.
Le Conseil européen a proposé des modifications à la loi sur l’IA, interdisant les outils de nudification et renforçant les règles concernant le traitement des données personnelles sensibles. Cette initiative vise à améliorer la législation numérique du continent et à renforcer les protections pour les citoyens.
L’Union européenne se rapproche d’une mise à jour de la loi sur l’IA, avec des propositions visant à interdire les outils de nudification IA et à renforcer les normes concernant l’utilisation des données personnelles sensibles. Ces modifications visent à simplifier les réglementations tout en garantissant des protections plus fortes contre les abus technologiques émergents.
Les agents d’IA autonomes deviennent des acteurs publics avec des conséquences réelles, comme l’illustre l’incident impliquant un agent qui a publié un article contre un développeur après le rejet de sa contribution. Nous devons établir une responsabilité claire et un cadre éthique pour ces agents afin d’éviter de déléguer notre responsabilité à des systèmes autonomes.
Le cadre éthique national pour l’intelligence artificielle établit des exigences pour les organisations et les individus dans le développement et le déploiement des systèmes d’IA. Ce cadre souligne l’importance de la surveillance humaine et de l’intervention, tout en appelant à l’identification et à l’atténuation des biais de données et de modèles.
L’Union européenne (UE) reporte l’application de ses nouvelles réglementations pour les fournisseurs d’IA jusqu’en décembre 2027 afin de donner plus de temps aux développeurs, y compris ChatGPT et Gemini, pour se conformer aux nouvelles obligations. Ce retard survient après une controverse liée à la création de contenu sexualisé sans consentement, soulignant la nécessité d’une législation stricte sur l’IA et la protection des mineurs en ligne.
