Assurer une IA Inclusive : Un Appel à l’Action
La nécessité d’une IA inclusive est plus pressante que jamais, suite aux récents événements qui ont eu lieu lors du Sommet sur l’IA à Paris. Ce sommet a abouti à une déclaration sur l’« IA inclusive et durable pour les personnes et la planète », soulignant l’importance de réduire les divisions numériques et d’assurer que l’IA soit ouverte, inclusive, transparente, éthique, sûre, sécurisée et fiable.
Cadre Réglementaire et Engagement Social
En Europe, les premières règles du Règlement de l’IA de l’UE sont entrées en vigueur le 2 février 2025, exigeant que les « fournisseurs et déployeurs d’IA » s’assurent que le personnel comprend le contexte dans lequel les systèmes d’IA seront déployés. L’inclusion de l’impact social comme un risque de conformité a un poids beaucoup plus important que de simples recommandations.
En revanche, le gouvernement fédéral américain a récemment demandé des « contributions du public » pour développer son Plan d’Action sur l’IA. Cependant, les préoccupations sociales sont largement absentes de ce document, ce qui soulève des questions sur l’intérêt réel du gouvernement à inclure la voix du public.
Revue des Évidences
Une étude menée dans le cadre du projet Public Voices in AI vise à examiner comment différents publics sont consultés et comment cela aide à comprendre les personnes ou groupes affectés par l’IA. Cette revue d’évidence est essentielle pour identifier les lacunes de recherche et affiner les méthodes.
Les revues systématiques sont considérées comme les outils de recherche les plus robustes, mais elles présentent souvent des biais en excluant des échantillons provenant d’approches participatives. Cela a pour effet de valider certaines connaissances tout en invalidant d’autres, marginalisant ainsi les voix déjà vulnérables.
Une Action Requise pour l’Inclusion
Pour que l’IA soit véritablement inclusive, il est nécessaire d’évaluer toutes les études qui interrogent les personnes sur l’IA. Il est crucial d’identifier les méthodes et cadres de recherche qui contribuent à une compréhension plus complète des différentes perspectives publiques.
Les experts en IA souhaitent que leurs systèmes reflètent les valeurs humaines, mais ils ne consomment ni ne consultent la recherche en sciences sociales pour comprendre ce que cela implique.
Appel à l’Action : Assurance de l’IA et Inclusion
L’assurance de l’IA est un mécanisme de régulation qui permet aux organisations de mesurer si les systèmes sont dignes de confiance. Le Règlement de l’IA de l’UE exige que les mécanismes d’assurance incluent les voix diverses de ceux les plus impactés par les systèmes d’IA.
Il est impératif que toutes les voix, en particulier celles les plus affectées par les systèmes d’IA, soient présentes dans les preuves utilisables pour les acteurs de la technologie et de la politique de l’IA. De plus, il est crucial de veiller à ce que ces voix ne soient pas mal représentées ou absentes.
En conclusion, il est nécessaire de reconsidérer l’inclusion comme une solution technique aux systèmes dysfonctionnels, plutôt que comme une faveur accordée aux groupes marginalisés. La qualité et l’assurance de l’inclusion sont essentielles pour garantir des pratiques éthiques et inclusives en matière d’IA.
