L’IA s’accélère dans le secteur de la santé. Qui devrait la réguler ?
L’intelligence artificielle (IA) pénètre rapidement le domaine de la santé, apportant des avantages potentiels mais aussi des pièges possibles tels que les biais qui entraînent des soins inégaux et le burnout des médecins et autres travailleurs de la santé. Il reste à décider comment elle devrait être régulée.
En septembre, des recommandations ont été émises concernant la mise en œuvre de l’IA dans les soins médicaux, la responsabilité de conformité incombant en grande partie aux établissements individuels.
Le besoin de régulation
Il est clair que l’IA dans le secteur de la santé nécessite une régulation, surtout lorsque l’IA médicale gère des éléments à risque moyen ou élevé. Bien que la régulation ait jusqu’à présent été principalement interne, les différences dans la validation et le suivi de l’IA dans les hôpitaux sont notables.
Lorsqu’elle est effectuée sur une base hospitalière, les coûts d’évaluation et de suivi peuvent être significatifs, ce qui signifie que certains hôpitaux peuvent le faire, tandis que d’autres ne le peuvent pas. En revanche, une régulation descendante est plus lente, peut-être trop lente pour certains développements dans ce domaine.
Les produits d’IA médicaux
Il existe un mélange complexe de produits d’IA entrant dans les hôpitaux. Certains peuvent aider à l’achat interne et à la révision, mais beaucoup d’autres sont cliniques ou cliniquement adjacents. Certains produits d’IA médicale interagissent directement avec les consommateurs, comme les chatbots utilisés pour la santé mentale, pour lesquels la nécessité de régulation est beaucoup plus claire.
Une dynamique de course et ses risques
Le paysage de l’innovation dans le secteur de la santé est dynamique, mais cette rapidité peut faire négliger les problèmes éthiques. La majorité des IA médicales ne sont jamais examinées par un régulateur fédéral. Il est essentiel d’établir des standards pour l’IA dans le secteur de la santé et d’inciter à l’adoption de ces standards.
Cependant, soumettre toutes les technologies à un processus rigoureux comme celui de la FDA pour les médicaments serait prohibitif en termes de coûts et de temps pour ceux qui sont fascinés par le développement rapide.
Les défis de l’évaluation
Il est important de noter que les résultats peuvent varier considérablement d’un système hospitalier à l’autre en fonction des ressources, de la formation et de l’expérience du personnel. Cela crée un défi particulier pour les agences de régulation, qui doivent naviguer entre l’approbation des systèmes d’IA et la pratique médicale.
Accréditation et impact sur les hôpitaux
Les établissements doivent prêter attention aux règles d’accréditation, car être accrédité est nécessaire pour facturer Medicare et Medicaid. Les recommandations actuelles pourraient devenir parties intégrantes de l’accréditation future.
Conclusion
Bien que les recommandations soient souvent exigeantes, elles représentent un bon début. Il est essentiel de surveiller la qualité et de tester continuellement les performances de l’IA. Toutefois, les coûts associés à la mise en œuvre de ces recommandations pourraient rendre leur adoption difficile pour de nombreux systèmes hospitaliers, surtout ceux de petite taille. Il est crucial que les préoccupations en matière d’équité et d’accès soient prises en compte dans toute tentative de légiférer dans ce domaine.
