AI Act : Le moment pour les hôpitaux et les fournisseurs d’agir
Le Règlement sur l’IA de l’UE est déjà partiellement en vigueur, et les hôpitaux ainsi que les fournisseurs ont jusqu’en août 2026 pour se conformer, selon des experts présents à un symposium de pointe.
« Le Règlement sur l’IA est déjà là, il est déjà déployé », a souligné un radiologue. Avec cette législation, la transparence garantira qu’il n’est plus possible de se cacher derrière des réglementations. Tous les fournisseurs d’IA doivent fournir des données sur l’utilisation prévue et la performance disponibles au public.
Bien que de nombreux outils d’IA existent déjà, le règlement introduit des exigences réglementaires plus strictes et des amendes potentiellement élevées pour non-conformité, créant une pression immense sur les prestataires de soins de santé et les fournisseurs.
Exigences de conformité
Comme l’IA en radiologie est classée comme à haut risque, elle est soumise à une évaluation de conformité stricte et à une surveillance post-commercialisation. Chaque service de radiologie, radiologue et manipulateur d’images déployant une IA est légalement considéré comme un déployeur d’un système d’IA à haut risque, portant ainsi des obligations spécifiques.
Des systèmes de gestion des risques doivent être en place pour évaluer la fiabilité de l’IA et prévenir les dommages. La surveillance post-commercialisation est essentielle pour surveiller en continu la performance de l’IA, prévenant ainsi les biais ou la dégradation au fil du temps. Les exigences de transparence imposent une documentation claire sur l’utilisation de l’IA et ses limitations, et une supervision humaine est obligatoire, en particulier pour les systèmes d’IA autonomes impliqués dans la prise de décision critique.
Recommandations clés
Des recommandations clés ont été formulées pour aider les hôpitaux et les développeurs à naviguer dans le nouveau paysage de l’IA. L’éducation à l’IA doit être intégrée à tous les niveaux, des programmes de formation en radiologie et pour les manipulateurs d’images aux programmes de formation à l’IA au niveau hospitalier. Même les patients doivent être éduqués sur l’utilisation de l’IA. « L’éducation est primordiale », a-t-on noté.
De plus, le déploiement de l’IA doit être documenté, y compris non seulement comment utiliser l’IA, mais aussi comment ne pas l’utiliser.
Les « sandboxes » réglementaires
Avant août 2026, des « sandboxes réglementaires » pour l’IA sont légalement requises dans chaque pays de l’Union Européenne, mais aucune n’a encore été mise en place. Ces environnements permettent de tester et de valider les systèmes d’IA dans des conditions contrôlées avant leur mise sur le marché. L’absence de ces environnements laisse un vide crucial dans la réglementation de l’IA.
Le Règlement sur l’IA impose des pénalités strictes en cas de violations, avec des amendes pouvant atteindre 35 millions d’euros ou 7 % du chiffre d’affaires annuel. Cependant, les mécanismes d’application ne seront pas en place avant août 2026, ce qui signifie que les pénalités ne peuvent pas encore être appliquées.
Tensions politiques et impact réel
Le Règlement sur l’IA a suscité des tensions politiques, et certaines grandes entreprises technologiques se retirent d’Europe en raison de cette incertitude réglementaire. « Notre réglementation a empêché notre population de subir des dommages, alors que les développeurs affirment qu’elle étouffe l’innovation. Il y a une bataille géopolitique entre l’Amérique et l’Europe sur la réglementation de l’IA », a-t-on souligné.
Évaluer l’impact de l’IA
Dans la même session, un expert a insisté sur la nécessité de faire un pas en arrière et de réévaluer l’efficacité réelle de l’IA dans les soins de santé. L’IA doit prouver son impact réel sur le terrain au-delà de la précision technique pour réellement bénéficier aux patients.
Actuellement, la plupart des études sur l’IA se concentrent sur la performance technique et la précision diagnostique, mais elles ne démontrent pas si l’IA améliore effectivement les résultats pour les patients, laissant un écart entre les capacités prometteuses de l’IA et l’impact clinique réel.
Pour garantir l’efficacité dans le monde réel, la surveillance post-commercialisation est essentielle mais reste sous-développée. Le renforcement de ces clauses doit commencer rapidement.
