Vos Questions Répondues : Où en Sommes-Nous sur la Réglementation de l’IA, et Où Allons-Nous à Partir d’Ici ?
Que vous y soyez confronté dans votre vie quotidienne ou que vous n’y pensiez jamais, l’intelligence artificielle (IA) nous affecte tous. De la demande d’un prêt à la salle d’attente du médecin, les systèmes d’IA sont souvent utilisés en coulisses pour prendre des décisions réelles — et nous impactent de manière non divulguée.
Cependant, malgré l’ampleur croissante de l’IA et la diversité des outils et systèmes qu’elle englobe, les réglementations régissant son développement et son déploiement, ainsi que la manière dont les personnes concernées sont informées, restent inquiétamment rares. Laisser ces systèmes sans régulation peut porter atteinte à votre capacité à contrôler vos données ou renforcer la discrimination dans les pratiques d’embauche et d’emploi. À mesure que les implications pour les droits civils deviennent plus sérieuses, renforcer les protections n’est plus une option.
Pourquoi y a-t-il un besoin de plus de réglementation dans l’utilisation de l’IA ?
L’IA est souvent utilisée pour prendre des décisions sur nos vies sans divulgation transparente. Par exemple, lorsque vous demandez un prêt ou soumettez une candidature, les banques ou les employeurs peuvent utiliser l’IA pour analyser vos documents avant qu’une personne réelle ne le fasse. Au cabinet médical, votre fournisseur peut utiliser un scribe IA pour prendre des notes sur votre conversation. Les agences gouvernementales utilisent des systèmes automatisés pour prendre des décisions cruciales concernant l’octroi des avantages et la nature de ces avantages. L’IA devrait être soumise à des normes strictes lorsqu’elle traite des vies humaines.
Quels préjudices spécifiques à nos libertés civiles l’utilisation non régulée de l’IA pourrait-elle aggraver ?
Sans une supervision soigneuse, les systèmes d’IA utilisés pour la prise de décision ont prouvé qu’ils perpétuent les inégalités systémiques existantes. Nous avons vu que lorsque des outils d’IA sont utilisés pour filtrer des candidatures ou évaluer des employés potentiels, ils peuvent discriminer injustement les personnes de couleur, les personnes handicapées, les personnes neurodiverses et les personnes issues de milieux à faible revenu. L’utilisation de l’IA dans des domaines comme l’embauche, le logement et la police signifie que vous pourriez être refusé pour un emploi ou un appartement — ou même arrêté à tort lorsque des systèmes basés sur la reconnaissance faciale, qui souffrent de sérieux problèmes de biais racial, identifient mal des suspects dans des enquêtes criminelles.
Comment les décideurs et les défenseurs peuvent-ils relever les défis réels émergents de l’utilisation de l’IA ?
Nous avons mis en lumière la large gamme de réglementations sur l’IA proposées par les décideurs. Il existe des projets de loi qui réglementent l’utilisation de l’IA dans des domaines spécifiques comme l’éducation ou les élections et des propositions plus larges qui étendent les protections des droits civils déjà applicables à l’IA dans des domaines à enjeux élevés.
Notre recherche a également révélé deux recommandations clés pour aborder les défis liés à l’analyse des politiques d’IA :
- Nous exhortons les chercheurs et le personnel politique à travailler ensemble pour créer des formats et des structures standardisées pour les textes législatifs à travers les juridictions afin de faciliter l’analyse computationnelle des données.
- Nous encourageons les chercheurs et les défenseurs à incorporer une perspective multilingue lors de l’analyse des législations sur l’IA introduites dans les régions sous juridiction.
Quels droits numériques ai-je lorsque des outils automatisés sont utilisés pour prendre des décisions me concernant ?
Que les décisions soient prises par un humain ou par l’IA, les lois fédérales anti-discrimination de longue date continuent d’interdire la discrimination dans l’embauche et l’emploi sur la base de la race, de l’ethnie, du sexe, de l’orientation sexuelle, de l’identité de genre, du handicap et d’autres caractéristiques protégées. En plus des protections fédérales, un nombre croissant d’États ont adopté des lois réglementant la manière dont les employeurs et les fournisseurs tiers collectent, utilisent et partagent vos données personnelles lors de l’embauche.
Ces lois vous donnent un plus grand contrôle sur vos informations et plus de transparence sur la manière dont les systèmes automatisés vous évaluent — et comment ces systèmes peuvent influencer les décisions d’emploi.
