Consultation sur l’avis concernant la gouvernance et la gestion des risques liés à l’IA
Le 12 février 2025, l’Autorité Européenne des Assurances et des Pensions Professionnelles (EIOPA) a publié une consultation sur son projet d’avis concernant la gouvernance et la gestion des risques liés aux systèmes d’intelligence artificielle (IA) dans le secteur de l’assurance. Cet avis s’adresse aux autorités de supervision et couvre les activités des entreprises d’assurance et des intermédiaires, collectivement appelés « Entreprises », lorsqu’ils utilisent des systèmes d’IA dans la chaîne de valeur de l’assurance.
Objectifs de l’avis
L’avis vise à clarifier les principaux principes et exigences de la législation sectorielle de l’assurance pour les systèmes d’IA qui ne sont ni interdits ni considérés comme à haut risque selon le Règlement (UE) 2024/1689, connu sous le nom de « loi sur l’IA ». Il fournit des orientations sur l’application de cette législation à des systèmes d’IA qui n’étaient pas courants ou disponibles lors de l’adoption de la loi sur l’IA.
Les attentes de supervision élevées en matière de gouvernance et de gestion des risques que les entreprises doivent suivre pour utiliser les systèmes d’IA de manière responsable sont également abordées, en tenant compte des risques et de la proportionnalité de chaque cas.
Points clés de l’avis
- Évaluation des risques : Les entreprises doivent évaluer les risques associés aux différents cas d’utilisation de l’IA, en tenant compte des niveaux de risque variés parmi ces cas d’utilisation.
- Mesures proportionnées : Après l’évaluation, les entreprises doivent développer des mesures proportionnées pour assurer l’utilisation responsable de l’IA, adaptées à chaque cas d’utilisation spécifique.
- Systèmes de gouvernance : En conformité avec l’Art. 41 de la Directive Européenne 2009/138/CE et l’Art. 25 de la Directive sur la Distribution d’Assurances (IDD), les entreprises doivent établir des systèmes de gouvernance et de gestion des risques, en mettant l’accent sur des aspects tels que :
- équité et éthique,
- gouvernance des données,
- documentation et conservation des enregistrements,
- transparence et explicabilité,
- surveillance humaine,
- exactitude, robustesse et cybersécurité.
Les entreprises utilisant des systèmes d’IA sont également invitées à définir et documenter dans une politique leur approche de l’utilisation de l’IA, qui devrait être régulièrement revue.
Approche centrée sur le client
L’EIOPA encourage une approche centrée sur le client en matière de gouvernance de l’IA, afin de garantir que les clients soient traités équitablement, conformément à leurs intérêts. Cela implique le développement d’une culture d’éthique et de formation sur la justice.
Gestion des données et biais
L’avis souligne l’importance des données utilisées pour entraîner l’IA, qui doivent être complètes, précises et exemptes de biais. Les résultats des systèmes d’IA doivent être significativement explicables, avec une surveillance et un audit réguliers des résultats.
Mécanismes de redressement
Conformément à d’autres cadres de gouvernance, l’avis insiste sur la nécessité de mécanismes de redressement adéquats permettant aux clients de demander réparation en cas d’effet négatif d’un système d’IA.
Conclusion
Il est important de noter que l’avis ne propose aucune nouvelle législation ou modification des lois existantes, mais vise à fournir des orientations spécifiques au secteur de l’assurance sur le fonctionnement des systèmes d’IA sous les lois de l’UE en vigueur. Les réponses à l’avis doivent être soumises avant le 12 mai 2025, après quoi l’EIOPA examinera les retours et révisera l’avis en conséquence.
