Est-ce que l’Insurtech est une application à haut risque de l’IA ?
Dans un paysage technologique en constante évolution, l’Insurtech, qui combine technologie et assurances, soulève des questions cruciales sur l’utilisation de l’intelligence artificielle (IA). Avec l’émergence de régulations spécifiques à l’IA, il est essentiel d’explorer si l’Insurtech peut être considérée comme une application à haut risque de l’IA.
Comprendre les systèmes d’IA à haut risque
Les systèmes d’IA à haut risque sont définis différemment selon les juridictions, mais généralement, ils engendrent des décisions ayant un impact significatif sur les individus. Par exemple, dans l’Union Européenne, la Loi sur l’IA (EU AI Act) adopte une approche graduelle en fonction des risques. Selon l’Article 6, un système d’IA est considéré comme à haut risque s’il traite des données biométriques ou évalue l’éligibilité des personnes pour des services, notamment dans le secteur des assurances.
De même, la Loi sur l’IA du Colorado (CAIA) met l’accent sur les systèmes qui pourraient entraîner une « discrimination algorithmique« , définissant un système d’IA à haut risque comme celui qui influence des décisions significatives concernant l’assurance.
L’Insurtech est-elle considérée comme à haut risque ?
Les lois, comme la CAIA, stipulent que tout système d’IA influençant une décision importante dans le domaine de l’assurance est classé comme à haut risque. Cependant, cela ne signifie pas que toutes les applications d’IA dans l’Insurtech le sont nécessairement. Par exemple, la CAIA précise qu’un système est à haut risque seulement s’il « prend ou est un facteur substantiel dans la prise » d’une décision conséquente.
En pratique, alors que l’IA peut être utilisée pour des applications telles que l’évaluation des risques ou la détection de fraudes, d’autres usages internes comme l’optimisation marketing ne déclenchent pas nécessairement ce seuil de risque.
Que faire si vous développez ou déployez un système d’IA à haut risque ?
Les obligations liées à l’IA à haut risque varient. Par exemple, les développeurs doivent divulguer les systèmes d’IA à haut risque qu’ils ont déployés et expliquer comment ils gèrent les risques de discrimination algorithmique. Pour les déployeurs, il est crucial de notifier les consommateurs lorsque l’IA impacte une décision conséquente, fournissant des détails sur la prise de décision et la possibilité de corriger les données utilisées.
Conclusion
Alors que le domaine de l’Insurtech continue de croître, il est impératif de naviguer dans le cadre réglementaire émergent. La compréhension des implications juridiques de l’utilisation de l’IA dans l’assurance est essentielle pour un développement prudent et conforme aux exigences légales en constante évolution.
