AI = Responsabilité + Inclusion
Dans un monde où l’intelligence artificielle (IA) devient rapidement un élément central des systèmes d’exploitation des organisations, des gouvernements et de la société, il est crucial d’intégrer des principes d’inclusion et de diversité (DE&I) dans sa mise en œuvre. Avec l’adoption croissante de l’IA, des implications et conséquences négatives imprévues émergent souvent en raison d’un manque de gouvernance responsable.
La nécessité d’une gouvernance éthique
Les organisations doivent garantir qu’elles disposent d’une stratégie pour la gouvernance et la supervision éthique de l’IA. Les professionnels menant les stratégies d’IA doivent collaborer avec des experts en DE&I pour s’assurer que des principes centrés sur l’humain sont intégrés dans son utilisation.
Le domaine des ressources humaines est l’un des secteurs les plus discutés concernant l’application de l’IA. De la sélection des meilleurs candidats à l’assurance que chaque individu sélectionné bénéficie du soutien nécessaire pour réaliser son potentiel, de nombreux processus peuvent bénéficier de l’IA. Cependant, l’utilisation de l’IA dans les évaluations individuelles soulève des débats, comme le montre le cas de HireVue, une plateforme de recrutement pilotée par l’IA, qui a été critiquée pour ses pratiques déloyales dues à un algorithme opaque.
Le parcours de l’IA responsable : données, conception et livraison
Pour la plupart des organisations, les grandes questions concernant l’IA tournent autour de trois phases clés : les données utilisées pour former les modèles d’IA, la conception et le développement des modèles d’IA, et la livraison des solutions d’IA. Chacune de ces phases est essentielle pour garantir une stratégie d’IA robuste et responsable.
Phase des données
La première étape dans le parcours de l’IA d’une organisation est la curation des ensembles de données qui seront utilisés pour former toute capacité d’IA souhaitée. Il est essentiel que les ensembles de données soient représentatifs pour minimiser les biais et garantir l’équité. Par exemple, les algorithmes de reconnaissance faciale utilisés par les forces de l’ordre ont échoué à fonctionner correctement pour toutes les teintes de peau, ce qui a conduit à des arrestations injustes.
Phase de conception et de développement
Une fois les données préparées, l’organisation peut concevoir et développer le modèle d’IA. Il est crucial d’intégrer des mécanismes tels que des audits pour détecter et atténuer les biais algorithmiques. Les systèmes d’IA doivent être conçus avec tous les utilisateurs finaux à l’esprit, en tenant compte des besoins d’accessibilité et des sensibilités culturelles.
Phase de livraison
La phase de livraison est celle où le produit d’IA est mis en service. Quelle que soit la méthode de développement, il est impératif que les innovations en IA soient testées sur divers segments de la société, recueillant des retours d’expérience pour évaluer leur impact sur chaque groupe démographique.
Questions de DE&I pour les équipes d’IA
Pour aider les organisations à réfléchir sur les étapes nécessaires à chaque phase d’une stratégie d’IA responsable, il est recommandé de constituer un « conseil éthique » interne rassemblant les équipes d’IA et de DE&I. Cette approche vise à s’assurer que les stratégies d’IA et les cadres de gouvernance sont sensibles aux besoins et aux valeurs de toutes les communautés.
Conclusion
En intégrant les principes de DE&I dans les parcours d’IA, les organisations peuvent favoriser une approche plus juste et éthique de l’innovation technologique, qui profite finalement à toute la société.
