La révision des protections de l’IA en Europe
L’UE reconsidère la Loi sur l’IA malgré les avertissements répétés de la société civile. Par le biais de la proposition omnibus de la Loi sur l’IA, la Commission européenne a suggéré des modifications qui, loin d’être techniques, affaibliraient considérablement les garanties contre les systèmes d’IA jugés les plus dangereux pour la santé, la sécurité et les droits fondamentaux.
Alors que le débat se poursuit et que les preuves des dommages causés par l’IA continuent d’augmenter, aucune des propositions n’a pris de mesures pour renforcer les voies de recours sous la Loi sur l’IA, malgré cela étant une faiblesse fondamentale de la législation.
Faiblesses de la Loi sur l’IA
En dehors du droit d’obtenir une explication et de l’existence d’un mécanisme de plainte, la Loi sur l’IA offre peu d’outils pour que les individus puissent exercer leurs droits en cas de violation ou de préjudice. Bien que ces processus soient un premier pas significatif et nécessaire pour garantir l’accès à l’information et la responsabilité, ils sont insuffisants.
Les mécanismes de plainte prévus par la Loi sur l’IA, bien que ouverts à toute personne ou entité, n’offrent aucune garantie procédurale pour les plaignants et ne bénéficient d’aucune surveillance judiciaire.
Défis des cadres de recours
La première loi garantissant la transparence et la responsabilité des systèmes d’IA était le Règlement général sur la protection des données (RGPD), qui est également ciblé par les efforts de déréglementation de l’UE. Le RGPD a joué un rôle significatif en établissant des garde-fous et des mécanismes d’action pour les individus dont les données personnelles sont traitées par des systèmes d’IA.
Une contribution notable du RGPD à la structure de recours efficace est l’existence de droits et de droits d’action pour les individus contre les entités traitant des données. Cependant, la responsabilité et la responsabilité des entités de l’IA sont souvent obscurcies par le développement d’IA impliquant plusieurs parties.
Conséquences et implications
Le cadre de protection des consommateurs de l’UE pourrait surmonter de nombreux problèmes posés par le recours individuel, mais fait face à des défis pour s’adapter à l’environnement numérique complexe marqué par des asymétries de pouvoir. L’absence d’une approche efficace pour le recours collectif semble être une opportunité manquée.
Il est donc vital que les obligations de documentation et d’enregistrement de la Loi sur l’IA soient mises en œuvre et appliquées de manière forte, et non affaiblies, afin d’éviter que des systèmes à haut risque ne soient exemptés de contrôle.
Appel à l’action
Face à ces défis, des actions doivent être entreprises pour combler les lacunes de la Loi sur l’IA et mettre à jour la législation existante afin de renforcer les procédures d’application et de recours. Cela inclut le renforcement des mécanismes d’action collective, l’adoption de garanties procédurales telles que le renversement de la charge de la preuve, et des dispositions de transparence significatives.
Les législateurs doivent garantir que les protections individuelles ne soient pas diluées et que des mesures soient prises pour renforcer les protections des systèmes d’IA à haut risque.
En conclusion, il est crucial de ne pas attendre qu’un scandale se produise pour améliorer les protections individuelles dans le domaine de l’IA.
