Agents autonomes : Quelle révolution pour la gouvernance de l’IA en Australie ?
Au cours de l’année écoulée, une nouvelle classe d’outils d’intelligence artificielle (IA) connue sous le nom d’agents autonomes a émergé, marquant ce que l’on appelle communément l’ère agentique. Bien que ces agents ouvrent de nouvelles possibilités en matière d’automatisation, leur nature dynamique et autonome a également le potentiel d’intensifier certains problèmes existants liés à l’IA, tels que le biais, la discrimination, la propriété intellectuelle, la confidentialité, la transparence et l’explicabilité.
Qu’est-ce qu’un agent ?
Il n’existe pas encore de définition établie de ce qui constitue un agent, le terme ayant été appliqué à un large éventail de technologies, allant des modèles de raisonnement (comme le modèle d’utilisation d’ordinateur d’Anthropic) aux copilotes agentiques (tels que l’Operator et Manus de ChatGPT), en passant même par l’intelligence artificielle générale. Les caractéristiques clés d’un agent incluent l’autonomie, l’adaptabilité et l’orientation vers des objectifs avec peu ou pas d’intervention humaine. Ces caractéristiques représentent un changement fondamental par rapport au paradigme de réponse à la demande de l’IA générative, qui nécessite encore une certaine input humaine.
Il est important de distinguer les agents de l’IA agentique, souvent utilisés de manière interchangeable. L’IA agentique se réfère à un paradigme plus avancé où les systèmes autonomes collaborent pour atteindre des objectifs complexes grâce à un raisonnement en temps réel et une composition dynamique des tâches.
Le problème du « black box »
Les principes de transparence actuels autour de l’IA se concentrent souvent sur les divulgations pour informer les individus de leur interaction avec l’IA. Cependant, ces principes sont limités par le problème de la boîte noire, où les modèles infèrent des résultats d’une manière qui n’est pas toujours explicable. Ce problème est exacerbé dans le contexte des agents, car ils peuvent exécuter rapidement des volumes d’actions en arrière-plan, souvent au-delà du contrôle visible des organisations qui les déploient.
Gestion des risques en mouvement
Les agents sont dynamiques, capables de s’adapter et de développer des attributs émergents sans modifications manuelles. Par exemple, un bot de service client peut non seulement répondre à des questions, mais également exécuter des tâches comme naviguer sur le web ou transférer des fonds. Cela soulève des défis de gouvernance, nécessitant des cadres qui évoluent pour garantir que les agents fonctionnent dans des seuils de risque acceptables.
Les garde-fous techniques sont plus nécessaires que jamais
Avec des agents capables d’exécuter des objectifs complexes de manière autonome, le calcul des risques évolue. Il devient nécessaire d’adopter des outils comme des plateformes de conformité en IA pour surveiller en temps réel les actions des agents. De plus, le recours à des arbitres d’IA générative multi-modèles peut offrir une validation diversifiée des actions des agents avant leur exécution.
Que peuvent faire les équipes juridiques ?
Les équipes juridiques doivent anticiper les risques et les responsabilités associés aux agents. Une collaboration proactive entre les équipes juridiques, commerciales et technologiques est essentielle pour développer des cadres de gouvernance efficaces. Cela inclut l’établissement de documents de gouvernance pour les agents, le développement de plans de réponse aux incidents et la garantie que des pistes d’audit des décisions des agents soient maintenues.
