Lettre ouverte conjointe pour rejeter la proposition visant à saper la transparence dans la loi sur l’IA
CDT Europe, en collaboration avec 60 organisations, a signé une lettre ouverte adressée aux institutions de l’UE, exhortant à rejeter la suppression de la sauvegarde de transparence de l’article 49(2) de la loi sur l’IA pour les systèmes d’IA à haut risque, comme proposé dans l’Omnibus de l’IA récent.
Dans une lacune fortement critiquée, la loi sur l’IA permet aux fournisseurs dont les systèmes sont classés comme présentant un risque significatif de s’exempter de la catégorie à haut risque et de toutes les obligations qui y sont liées, sur la base de critères larges. Une sauvegarde cruciale contre cette exclusion dommageable est l’exigence pour les fournisseurs de systèmes d’IA qui se dispensent de la catégorie à haut risque de s’enregistrer néanmoins dans une base de données de l’UE, permettant un contrôle et une surveillance concernant l’exploitation potentielle de cette lacune. Cette sauvegarde est maintenant menacée.
Importance de la sauvegarde de transparence
Cette sauvegarde de transparence garantit que les fournisseurs de systèmes d’IA ne peuvent contourner les obligations essentielles de la loi sur l’IA, et qu’ils soient tenus responsables lorsqu’ils tentent de le faire. Ne pas divulguer l’auto-évaluation d’un développeur d’IA permettrait à des systèmes d’IA potentiellement dangereux de se propager sans être vus et sans restrictions, empêchant ainsi les régulateurs et les utilisateurs de former une opinion ou une évaluation éclairée sur les systèmes d’IA qu’ils pourraient vouloir examiner ou éviter.
Conséquences de la suppression de l’obligation de transparence
La suppression de l’obligation de transparence aura un coût humain significatif en échange d’économies triviales pour les développeurs d’IA : cela compromettra gravement l’applicabilité de la loi sur l’IA et aggravera les risques pour la santé, la sécurité et les droits fondamentaux.
Lire la lettre complète ici.
