Les leaders de l’IA plaident pour l’éthique, la gouvernance et la durabilité
À l’approche de la Journée de l’Appréciation de l’IA, les leaders de l’industrie profitent de l’occasion pour réfléchir à l’impact croissant de l’intelligence artificielle en Australie et dans le monde. Ils soulignent à la fois le potentiel transformateur de cette technologie et les défis urgents liés à la gouvernance, à l’éthique et à la durabilité.
L’IA, une nécessité dans divers secteurs
L’application de l’IA s’est généralisée dans divers secteurs, y compris le commerce de détail, la finance, la cybersécurité et les ressources humaines. Par exemple, Hayley Fisher, responsable nationale de l’ANZ chez Adyen, met en avant le fait que l’IA passe d’une nouveauté à une nécessité dans le commerce de détail, avec une augmentation de 45 % des achats alimentés par l’IA au cours de l’année passée. Elle déclare : « Que ce soit pour aider les Australiens à planifier leurs repas ou à composer une tenue, l’IA devient rapidement le compagnon de shopping incontournable. »
Fisher note également que l’IA est de plus en plus utilisée pour lutter contre la fraude, améliorer les taux de conversion et réduire les coûts opérationnels, soulignant que les entreprises qui exploitent au mieux l’IA parviennent à améliorer les résultats tant pour leurs équipes que pour leurs clients.
Les risques croissants associés à l’IA
Cependant, à mesure que l’enthousiasme pour l’IA augmente, la complexité des risques associés se renforce également. Andrew Kay, directeur de l’ingénierie des systèmes pour la région APJ chez Illumio, avertit que « l’IA est de plus en plus utilisée par des acteurs malveillants pour intensifier leurs attaques. » Il fait référence à un incident très médiatisé impliquant un employé de la finance d’une banque multinationale à Hong Kong, qui a été manipulé pour transférer 25 millions de dollars américains à l’aide d’un deepfake sur Zoom. Néanmoins, Kay souligne que l’IA améliore également les défenses : des outils tels que la détection et la réponse basées sur l’IA peuvent désormais aider les organisations à détecter et à limiter la propagation des violations en temps réel.
La priorité croissante pour la gouvernance et l’éthique
La cybersécurité n’est pas le seul domaine confronté à une montée à la fois des opportunités et des scrutins. George Moawad, responsable national de l’Océanie chez Genetec, rapporte que plus de 40 % des décideurs en matière de sécurité privilégient désormais les solutions basées sur l’IA. Cependant, il souligne les demandes croissantes en matière de transparence, de gouvernance et d’éthique. « Cette capacité soulève également des inquiétudes concernant la sur-surveillance et l’utilisation potentielle abusive, » note-t-il, plaidant pour l’établissement de comités de surveillance et de protocoles clairs pour garantir une utilisation responsable de l’IA.
L’importance d’une gouvernance solide
Le focus sur la gouvernance émerge comme un thème commun dans les commentaires des experts. Vini Cardoso, directeur technique de Cloudera pour l’Australie et la Nouvelle-Zélande, souligne que « une gouvernance solide et un leadership stratégique » sont essentiels à mesure que l’IA agentique – l’IA qui poursuit des objectifs de manière autonome – devient plus répandue. Il évoque de nouvelles recherches et un changement dans les attitudes de l’industrie, soulignant que « l’IA doit être bâtie sur des fondations de données sécurisées et bien gouvernées. Sans cela, nous ne pouvons pas faire confiance aux modèles, encore moins les mettre à l’échelle en toute sécurité. »
La protection des données, les préjugés et les pénuries de compétences demeurent des obstacles clés pour les organisations cherchant à déployer l’IA à grande échelle, en particulier dans des secteurs hautement réglementés comme la finance et la santé.
Un dialogue socialement responsable autour de l’IA
Face à ces défis, des spécialistes de l’industrie plaident également pour un dialogue plus large et socialement responsable autour de l’IA. Simon Wistow, cofondateur de Fastly, souligne les conséquences environnementales de l’innovation en IA. « L’IA générative n’est pas simplement un nuage magique produisant de la poésie et du code, mais des millions de GPU traitant des vecteurs et consommant une énergie considérable, » observe-t-il, insistant sur la nécessité d’efficacité et de transparence dans le développement de l’IA.
Des données d’enquête de Fastly indiquent que 45 % des répondants privilégieraient des modèles économes en énergie si les coûts d’utilisation de l’IA étaient liés à la consommation d’énergie.
La nécessité d’une mise en œuvre de qualité
Matthew Hardman, directeur technique APAC chez Hitachi Vantara, met en avant l’exigence fondamentale de données de haute qualité et d’une gestion de projet efficace pour une mise en œuvre réussie de l’IA. « L’IA repose sur des données de haute qualité et complètes pour fournir des résultats précis, » note Hardman, ajoutant que l’intégration de l’IA dans des infrastructures obsolètes ou hybrides nécessite une planification minutieuse. David Lloyd, directeur AI chez Dayforce, voit une opportunité unique pour les ressources humaines de jouer un rôle de leadership stratégique, guidant l’adoption de l’IA de manière éthique et centrée sur l’humain.
Conclusion
Le message de l’industrie est clair : pour que l’IA tienne ses promesses, les entreprises doivent aller au-delà de l’innovation technique et prioriser proactivement la gouvernance, l’utilisation éthique, la durabilité et l’autonomisation humaine. À mesure que les organisations continuent de déployer l’IA dans tous les aspects de leurs opérations, les leaders de l’industrie plaident pour une approche responsable et équilibrée afin que les avantages de l’IA puissent être réalisés en toute sécurité et de manière inclusive pour les entreprises, les travailleurs et la société dans son ensemble.
