Les entreprises d’IA affirment que les règles existantes peuvent régir l’IA agentique
Les entreprises d’intelligence artificielle (IA) adoptent l’IA agentique, présentée comme la prochaine évolution de l’IA générative. À mesure que l’innovation progresse, les développeurs d’IA soutiennent que les processus de sécurité actuels et les règles étatiques et fédérales existantes peuvent protéger les entreprises et les consommateurs qui commencent à utiliser cette technologie.
Définition de l’IA agentique
L’IA agentique est un système d’IA composé de plusieurs agents IA capables d’agir de manière autonome pour accomplir des tâches. Des entreprises comme Meta et OpenAI proposent des plateformes permettant aux entreprises de créer leurs propres agents IA.
Lors d’une discussion en ligne, Erica Finkle, directrice de la politique IA chez Meta, a déclaré que les lois de protection des consommateurs, les contrats et les réglementations spécifiques au secteur peuvent servir de garde-fous techniques pour ces nouvelles capacités. Elle a souligné l’importance d’appliquer les règles existantes aux nouvelles technologies en évolution.
Les implications pour les entreprises
Dans un cas d’utilisation en entreprise, l’agent devient essentiellement une extension du système informatique de l’entreprise. A.J. Bhadelia, leader de la politique publique en IA chez Cohere, a fait écho à cette idée, insistant sur la nécessité d’évaluer où les lois actuelles peuvent être appliquées aux produits comme les agents IA, tout en identifiant les lacunes à combler avec des lois et réglementations supplémentaires.
Il a également noté que tous les applications d’IA agentique n’ont pas le même niveau de risque. Par exemple, un agent IA conçu pour fonctionner au sein d’une entreprise présente un risque différent d’un agent IA destiné à un usage grand public.
Nécessité de normes et d’implication humaine
Une vocabulaire standard doit être établi au niveau architectural pour la communication entre agents IA. Différents fournisseurs développent des agents IA spécialisés pour accomplir des tâches dans des secteurs individuels comme la santé ou l’énergie. Maintenir une infrastructure IA ouverte et interopérable, ainsi qu’un vocabulaire standardisé, sera essentiel pour atteindre des interactions multi-agents.
Dans un environnement où les agents IA peuvent interagir, un contrôle humain doit être mis en place et maintenu pour des raisons de sécurité, comme l’a souligné le paneliste Avijit Ghosh, chercheur sur les plateformes d’IA et d’IA générative. Il a récemment publié un article arguant que les entreprises d’IA ne devraient pas développer d’agents IA totalement autonomes en raison des risques tels que le contournement du contrôle humain et la perte de la vie privée des données.
La mise en œuvre de protocoles de communication multi-agents et la considération de la manière de déléguer responsabilité et responsabilité aux humains seront des questions importantes pour l’IA agentique.
Conclusion
Alors que les entreprises continuent de développer l’IA agentique, la transparence et la divulgation sur la formation des agents IA aideront à fournir une feuille de route claire pour les décideurs politiques. Cela ne résout pas directement un problème particulier, mais permet aux décideurs, au public et à la société civile de mieux comprendre et de répondre aux évolutions rapides de cet espace technologique.
