Les droits de l’homme sont universels, pas optionnels : Ne compromettez pas la loi sur l’IA de l’UE avec un code de pratique défaillant
La loi sur l’IA de l’UE, entrée en vigueur le 1er août 2024, a initié un processus de co-régulation impliquant un groupe de travail composé de près de 1 000 parties prenantes provenant d’entreprises d’IA, du monde académique et d’organisations de la société civile. Ce groupe de travail est actuellement dans les dernières étapes de la rédaction du Code de Pratique pour l’IA à usage général, qui constitue un manuel détaillé sur la manière dont les développeurs d’IA peuvent se conformer aux dispositions clés de la loi sur l’IA.
Ce Code vise à spécifier les types de risques que les fournisseurs de modèles d’IA doivent évaluer. Cependant, des préoccupations majeures émergent quant à la protection des droits de l’homme dans la version actuelle de ce Code de Pratique.
Les préoccupations concernant les droits de l’homme
Deux membres de ce vaste groupe de travail sont préoccupés par le fait que le projet de Code de Pratique ne protège pas suffisamment les droits de l’homme. Le projet repose sur une logique défaillante qui limite considérablement les manières dont les développeurs d’IA doivent atténuer les risques liés aux droits de l’homme. La loi sur l’IA et le Code de Pratique font une distinction entre les modèles d’IA à usage général et ceux présentant des risques systémiques.
Les modèles de la seconde catégorie, basés sur un seuil de calcul défini par la loi ou désignés par la Commission, sont soumis à des obligations supplémentaires, notamment la réalisation d’évaluations de risques et l’atténuation des risques identifiés. Toutefois, la version actuelle du Code a réduit les exigences concernant les risques des modèles d’IA.
Les changements préoccupants
Dans la dernière version du Code, la catégorisation des risques a évolué. Ce qui était auparavant considéré comme « supplémentaire » est devenu « optionnel ». Cela signifie que de nombreux risques, notamment ceux qui touchent la santé publique, la sécurité ou les droits fondamentaux, sont désormais optionnels pour les développeurs d’IA. Par conséquent, les risques liés à la discrimination, à la vie privée et à la sécurité publique peuvent être ignorés.
Les dangers de la discrimination et des contenus nuisibles
La discrimination dans les modèles d’IA est un problème connu qui persiste, allant des stéréotypes de genre à des cas de racisme manifeste. Sans évaluation et atténuation actives, la discrimination par les modèles d’IA est presque inévitable. De plus, la présence de matériel d’abus sexuel d’enfants dans les données d’entraînement de certains modèles d’IA représente un risque grave, car cela permet aux modèles de reproduire du contenu nuisible à grande échelle.
Le Code de Pratique n’aborde pas la responsabilité des fournisseurs de modèles d’IA de surveiller et de nettoyer leurs ensembles de données, ce qui pourrait avoir des conséquences réelles pour l’UE.
Les approches internationales et la nécessité de protection
Le Code de Pratique actuel ne respecte pas les efforts internationaux en matière de sécurité de l’IA. Par exemple, le Code de Conduite de Hiroshima pour les systèmes d’IA avancés exige que les fournisseurs évaluent et atténuent les risques liés à la vie privée et à la discrimination. Le Code de Pratique de l’UE devrait s’aligner sur ces normes internationales pour garantir une protection robuste des droits de l’homme.
Conclusion
La version actuelle du projet de Code de Pratique constitue un recul en raison de son approche faible et sélective en matière de protection des droits de l’homme. Pour que l’UE remplisse sa promesse de devenir un modèle de gouvernance mondiale en matière d’IA, il est impératif que les développeurs de modèles d’IA prennent en compte les risques que leurs modèles présentent pour les droits de l’homme.
