Les obligations liées aux systèmes d’IA à haut risque entrent en vigueur
Les obligations préparatoires relatives aux systèmes d’IA à haut risque prennent effet aujourd’hui alors que la loi sur l’IA de l’UE se rapproche de son application complète. Ces règles s’appliquent aux organisations à l’intérieur et à l’extérieur de l’UE qui mettent des systèmes d’IA sur le marché de l’UE ou qui les utilisent au sein du bloc.
La Commission européenne déclare que la loi répond aux risques pour la sécurité et les droits liés à certaines utilisations de l’IA. Dans ses directives, elle précise que « la loi sur l’IA est la première loi complète au monde sur l’IA. Elle vise à traiter les risques pour la santé, la sécurité et les droits fondamentaux ». Les systèmes à haut risque couvrent l’utilisation de l’IA dans des domaines tels que la sélection des recrutements, l’évaluation de crédit, l’accès aux soins de santé, l’évaluation dans l’éducation et l’application de la loi. Ces utilisations peuvent influencer les décisions concernant les individus de manière directe et durable.
Ce que les fournisseurs doivent faire avant de mettre des systèmes d’IA à haut risque sur le marché
Les fournisseurs doivent réaliser une évaluation de conformité avant qu’un système d’IA à haut risque ne soit mis sur le marché ou mis en service. Cette évaluation vérifie la gestion des risques, la gouvernance des données, la documentation technique, la transparence, la supervision humaine, l’exactitude et la cybersécurité. Un système de gestion de la qualité doit également être en place tout au long du cycle de vie du système. Selon la Commission, « les fournisseurs de systèmes d’IA à haut risque restent responsables de la sécurité et de la conformité du système tout au long de son cycle de vie ». Chaque système à haut risque doit être enregistré dans une base de données publique de l’UE, et les autorités peuvent examiner ces informations dans le cadre de la surveillance du marché.
Si le système ou son utilisation prévue change de manière significative, l’évaluation doit être effectuée à nouveau. Pour l’IA utilisée comme composants de sécurité dans des produits réglementés, les obligations sont directement liées aux vérifications de conformité des produits par des tiers.
Nouvelles obligations pour les déployeurs et les autorités publiques
Les déployeurs doivent suivre les instructions d’utilisation et surveiller le fonctionnement des systèmes en pratique. Une supervision humaine doit être assignée à des employés ayant le pouvoir d’intervenir lorsque des risques apparaissent. Les autorités publiques et les organisations fournissant des services publics doivent réaliser une évaluation d’impact sur les droits fondamentaux avant la première utilisation. Cela examine les effets sur les droits protégés par la loi de l’UE, ainsi que les obligations de protection des données. Les personnes affectées par des décisions soutenues par l’IA doivent être informées et, lorsque la décision a des effets juridiques, les individus peuvent demander une explication.
La loi stipule que les déployeurs doivent fournir « une explication claire et significative ». L’utilisation en milieu de travail impose des obligations d’information supplémentaires. Les employés et les représentants des travailleurs doivent être informés avant le déploiement de systèmes à haut risque.
Pourquoi la classification et les directives sont-elles encore nécessaires à ce stade ?
La loi classe l’IA à haut risque par objectif prévu. L’annexe III répertorie les utilisations sensibles dans l’emploi, l’éducation, la migration, la justice et l’identification biométrique. Les fournisseurs peuvent soutenir qu’un système de l’annexe III n’est pas à haut risque s’il effectue une tâche étroite ou préparatoire et n’influence pas les résultats. Cette évaluation doit être documentée et partagée avec les autorités sur demande.
La Commission a déclaré qu’elle publiera des directives avec des exemples pratiques pour soutenir la classification. Elle précise que l’objectif est de donner aux entreprises une clarté tout en maintenant la protection de la santé, de la sécurité et des droits fondamentaux en place. Des pénalités renforcent les règles, avec des amendes pouvant atteindre 35 millions d’euros ou 7 % du chiffre d’affaires mondial pour des pratiques interdites, et des seuils plus bas pour d’autres violations.
Réactions des experts technologiques aux mises à jour
Des experts du secteur technologique ont partagé leurs réflexions sur les mises à jour récentes de la loi sur l’IA. Ils soulignent l’importance de cette étape en fournissant une plus grande clarté aux entreprises alors que l’IA passe de l’expérimentation à un déploiement à grande échelle. Les responsables mettent en avant que les règles claires ne freinent pas l’innovation, mais préviennent la dette technique qui découle de l’ajout de la gouvernance après coup. L’accent est mis sur l’importance de concevoir des systèmes où les exigences réglementaires sont intégrées par défaut, ce qui permet d’innover plus rapidement.
Conclusion
Les nouvelles directives de la loi sur l’IA représentent un moment décisif pour l’IA en Europe, en plaidant pour une utilisation sûre et responsable de l’IA. Le cadre réglementaire prend forme, et les entreprises doivent se concentrer davantage sur la transparence, la traçabilité et l’auditabilité pour répondre à leurs obligations respectives. En équilibrant innovation et conformité, les entreprises peuvent transformer cette obligation en un avantage concurrentiel, garantissant ainsi que l’IA devienne un moteur de croissance à long terme.
