Appel croissant à la licence des modèles GenAI médicaux comme tout professionnel de la santé
Un nombre croissant de médecins universitaires, d’experts en politique et de spécialistes de la santé publique s’accordent à dire qu’il est nécessaire de licencier les modèles GenAI médicaux comme on le fait pour les médecins ou les infirmiers.
En novembre, un médecin hospitalier a publié un article d’opinion avançant cette notion. Les chercheurs ont écrit que face à l’incertitude concernant l’environnement réglementaire de l’IA, il pourrait y avoir une opportunité de créer une approche plus agile et tournée vers l’avenir pour l’IA clinique. Un cadre de licence pourrait aider à garantir que l’innovation progresse avec responsabilité et non en avance sur celle-ci.
Récemment, un billet de blog a été publié, renforçant cet élan. L’idée est qu’un nouveau conseil de licence numérique fédéral supervise ce cadre. Cependant, les organismes fédéraux et étatiques existants pourraient également jouer un rôle important : la FDA pourrait conserver son rôle dans les évaluations pré-commercialisation, empêchant les développeurs de devoir soumettre leur travail à 50 autorités de licence d’État.
Structure de licence proposée
Le billet de blog soutient également l’idée précédemment avancée de permettre aux systèmes de santé dotés d’expertise en IA de fonctionner comme des « centres d’implémentation ». Pendant ce temps, les conseils médicaux des États fourniraient une supervision continue, collaborant avec un organe fédéral de coordination pour harmoniser les normes.
Il est clair qu’une innovation réglementaire est nécessaire. Les préoccupations concernant l’IA générative, telles que les hallucinations et la dérive des performances, rappellent les inquiétudes des années 1800 sur les remèdes douteux et la formation variable des cliniciens. L’approche de la licence, combinant des normes de pratique avec une surveillance et une éducation continues, peut être adaptée à la régulation de l’IA.
Les deux articles présentés offrent un tableau convivial montrant les parallèles entre la licence des cliniciens et une structure potentielle de licence pour l’IA.
