Introduction
Le Règlement sur l’IA de l’Union Européenne (UE) entre en vigueur progressivement, mais un aspect essentiel commence sous peu. À partir du 2 février 2025, le Chapitre II, qui concerne les pratiques d’IA interdites, sera appliqué.
Pratiques d’IA interdites
Il est interdit de mettre sur le marché, de mettre en service ou d’utiliser des systèmes d’IA présentant certaines caractéristiques ou destinés à des fins particulières, considérées comme présentant un risque inacceptable. Ces pratiques ont été identifiées comme des utilisations particulièrement nuisibles de l’IA, qui sont incongrues avec les valeurs de l’UE et violent les droits fondamentaux.
Liste des pratiques interdites
Actuellement, les pratiques prohibées incluent :
- Techniques subliminales, manipulatrices ou trompeuses
- Exploitation des groupes vulnérables qui déforme matériellement le comportement et risque de causer des dommages significatifs
- Scoring social dans certains cas d’utilisation
- Prédiction de la criminalité basée sur le profilage
- Collecte de données par web scraping ou reconnaissance faciale
- Interférences avec les émotions sur le lieu de travail ou à l’école
- Catégorisation biométrique pour inférer la race, l’opinion politique, l’appartenance syndicale, les croyances religieuses ou politiques, la vie sexuelle ou l’orientation sexuelle
- Identification biométrique à distance en temps réel dans les espaces publics à des fins d’application de la loi
Exceptions et considérations
Des exceptions existent, mais une analyse au cas par cas est nécessaire. Il est important de noter que ces prohibitions ne réduisent pas d’autres restrictions ou limitations imposées aux pratiques d’IA sous d’autres lois, telles que le RGPD et les lois sur la protection des consommateurs.
Sanctions en cas de non-conformité
La non-conformité peut entraîner des sanctions, y compris des amendes pouvant atteindre 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial total pour l’exercice financier précédent, selon ce qui est le plus élevé. Il est à noter que les dispositions relatives aux pénalités entreront en vigueur le 2 août 2025.
Application aux systèmes d’IA australiens
Les systèmes d’IA peuvent tomber sous le champ d’application du Règlement sur l’IA même s’ils ne sont pas mis sur le marché, mis en service ou utilisés dans l’UE. Par exemple, un opérateur établi dans l’UE pourrait sous-traiter certains services à un opérateur établi dans un pays tiers.
Exceptions spécifiques
Certaines exceptions s’appliquent, notamment pour des exercices d’application de la loi, des activités de défense militaire et de sécurité nationale, ainsi que des activités de recherche et développement préliminaires particulières.
Actions à entreprendre
Une prochaine étape immédiate consiste à examiner vos systèmes d’IA pour déterminer s’ils sont concernés par le Règlement sur l’IA. Si c’est le cas, il est essentiel de vérifier s’ils relèvent d’une catégorie interdite et si des exceptions s’appliquent. Une fois cela établi, il est crucial de suivre les mises à jour concernant les pratiques prohibées, car la liste peut changer au fil du temps.
