Croatie en préparation pour la loi sur l’IA
La Croatie se prépare à élaborer une loi nationale pour mettre en œuvre le Règlement européen sur l’IA. À cette fin, un événement a récemment eu lieu, organisé par des associations de journalistes et des militants, pour discuter de l’impact de l’IA sur les droits de l’homme et sensibiliser aux dangers liés à cette technologie.
Événement Politiscope : IA et impact sur les droits des personnes
Un événement a été organisé à l’Association des journalistes croates pour discuter des impacts de l’IA sur les droits humains. Ce moment est crucial alors que la Croatie prépare sa loi nationale pour mettre en œuvre le Règlement européen sur l’IA. Des décisions clés, comme celle de désigner l’autorité de contrôle, sont encore en attente, rendant ce moment opportun pour sensibiliser aux dangers liés à l’IA et influencer les futures politiques en matière de droits humains.
Suite à l’adoption du Règlement européen sur l’IA en mai 2024, le gouvernement croate a récemment formé un groupe de travail pour rédiger une loi nationale.
Risques de l’IA : surveillance, discrimination et systèmes injustes
L’événement a débuté par un rappel fort sur les dangers potentiels de la technologie si elle n’est pas réglementée. Des experts ont mis en lumière comment l’IA peut menacer la vie privée, l’égalité et d’autres droits. Des coalitions telles que Protect Not Surveil et Reclaim Your Face ont été présentées, œuvrant pour garantir des protections contre les préjudices technologiques, notamment la surveillance biométrique.
Des intervenants ont partagé des exemples concrets de préjudices causés par des systèmes d’IA. Par exemple, des actions en justice aux Pays-Bas ont permis de faire retirer des algorithmes discriminatoires utilisés par les banques pour le profilage des terroristes. En Serbie, la société civile a réussi à stopper le déploiement de la surveillance biométrique.
Ces exemples montrent que l’IA, si elle n’est pas correctement régulée, peut entraîner des effets néfastes sur les communautés marginalisées et sur les droits fondamentaux des individus.
Voies à suivre : Intégrer la perspective des droits humains dans la gouvernance de l’IA
Lors de l’événement, des experts ont discuté de l’importance d’aller au-delà des exigences minimales du Règlement européen sur l’IA. Des recommandations ont été formulées, notamment la création d’un registre public de toutes les IA et algorithmes utilisés par l’administration publique, ainsi qu’un interdiction de la surveillance biométrique en direct dans les espaces publics.
Ces initiatives visent à garantir une participation significative de la société civile dans le développement du cadre juridique et politique national sur l’IA.
Democratiser la politique de l’IA : Exigences d’ouverture et de participation
Malgré les efforts pour inclure les organisations de la société civile dans le processus de prise de décision, celles-ci restent sous-représentées. Les processus législatifs en Croatie deviennent de plus en plus centralisés et opaques, ce qui soulève des préoccupations quant à la transparence et à l’inclusivité des décisions concernant les droits numériques.
Les recommandations formulées lors de cet événement sont un pas vers une gouvernance de l’IA qui intègre véritablement les droits humains et favorise une participation citoyenne active.
En conclusion, cet événement a marqué un début modeste mais essentiel pour rassembler les acteurs civiques et les journalistes autour d’une utilisation éthique et transparente de l’IA.
