Peut-on accorder une licence à l’IA comme aux cliniciens ?
L’intelligence artificielle générative aide déjà les cliniciens à interpréter les résultats des analyses, à doser les antibiotiques et à répondre aux questions des patients. Les processus d’approbation actuels pour l’IA en santé utilisent le cadre des logiciels en tant qu’appareil médical (SaMD) de la FDA, qui fonctionne mieux pour des outils conçus par un seul fabricant pour exécuter des tâches spécifiques, comme la classification des lésions pulmonaires à haut risque. Cependant, les produits modernes d’IA générative possèdent un ensemble de compétences plus large, pouvant être basés sur des fondations créées par une entreprise, affinés par une autre et étendus via des plug-ins tiers, sans responsabilité réglementaire claire.
Proposition de licence de l’IA
Des chercheurs proposent, dans une récente publication, une approche différente : accorder une licence à l’IA de la même manière que nous le faisons pour les médecins, les infirmiers praticiens et les assistants médicaux, qui exercent de manière supervisée et collaborative. Ils soutiennent que les préoccupations concernant l’IA générative, telles que les hallucinations et la dérive de performance, reflètent des inquiétudes similaires à celles du XIXe siècle concernant les remèdes frauduleux et la formation variable des cliniciens. Le cadre de la licence, combinant des normes de pratique avec une surveillance continue et de l’éducation, peut être adapté à la réglementation de l’IA.
Idéalement, un nouveau conseil fédéral de licence numérique superviserait ce cadre. Cependant, les organismes fédéraux et étatiques existants pourraient jouer des rôles importants : la FDA pourrait conserver son rôle dans les évaluations avant commercialisation, évitant aux développeurs de devoir soumettre leurs demandes à 50 autorités de licence d’État.
Des systèmes de santé désignés avec une expertise en IA pourraient fonctionner comme centres d’implémentation, et la surveillance continue et la discipline pourraient incomber aux conseils médicaux d’État, avec un organisme fédéral coordonnant les normes.
Cadre de licence proposé
Un cadre de licence pourrait garantir que l’innovation se développe avec responsabilité et non en avance sur celle-ci. Un tableau ci-dessous présente des parallèles entre la licence des cliniciens et une future structure de licence pour l’IA générative.
- Concept de licence
Clinicien humain
IA générative - Exigences préalables à la licence
Diplôme accrédité et réussite d’examens nationaux, période de formation clinique supervisée
Validation technique pour des compétences prédéfinies (examens nationaux de l’IA), pilote supervisé dans des « centres d’implémentation » accrédités - Champ d’application
Délégation des services médicaux approuvés, populations, degré d’autonomie, accords de collaboration ou de supervision
Délégation des fonctions approuvées (ex. interprétation d’images), populations, degré d’autonomie, orientation sur la supervision clinique pour chaque fonction - Accréditation institutionnelle
Systèmes de santé accréditent pour des procédures spécifiques et examinent les résultats
Comités de gouvernance de l’IA examinent l’implémentation et déterminent les privilèges locaux - Surveillance continue
Exigences de formation continue et évaluations périodiques des connaissances
Réexamen annuel des repères mis à jour pour chaque compétence - Discipline / responsabilité
Les conseils médicaux d’État enquêtent sur les plaintes et peuvent suspendre ou révoquer des licences
Les conseils numériques reçoivent et traitent les plaintes et peuvent suspendre ou révoquer des licences
Conclusion
Un cadre de licence pourrait aider à garantir que l’innovation en matière d’IA se développe en toute responsabilité, en s’assurant que les nouveaux outils soient à la fois efficaces et sûrs pour les utilisateurs. Les implications de cette approche pourraient transformer la façon dont l’IA est intégrée dans le secteur de la santé, garantissant une supervision adéquate et un niveau de responsabilité similaire à celui des cliniciens humains.
