L’IA progresse rapidement dans le secteur de la santé. Ils veulent y remédier.
Le secteur de la santé est entré dans une nouvelle ère avec l’utilisation de l’IA dans l’imagerie médicale, les dossiers médicaux électroniques, et pour les premiers contrôles ainsi que le soutien en santé mentale.
Bien que les algorithmes détectant des modèles dans les radiographies et les dossiers de santé aient permis de gagner du temps pour les cliniciens, les logiciels d’IA ont également entraîné de graves erreurs dans les soins aux patients, avec un biais racial qui a incorrectement dépriorisé les soins aux patients noirs et des patients âgés se voyant refuser une couverture d’assurance pour des procédures qui auraient autrement été approuvées.
Les défis de la régulation de l’IA
La méthode « pick and mix » adoptée par la plupart du secteur, qui consiste à établir des règles au fur et à mesure plutôt que de suivre des directives et régulations complètes, commence à montrer ses limites. Il est crucial d’établir des lignes directrices universelles pour intégrer l’IA dans les hôpitaux, ce qui serait bénéfique non seulement pour les travailleurs en informatique de la santé, mais aussi pour les cliniciens, à un moment où la maîtrise de l’IA est encore insuffisante.
Un chercheur en santé publique a reçu une subvention pour créer un guide universel sur l’utilisation éthique de l’IA dans le secteur de la santé. Ce projet réunit des informaticiens, des chercheurs en santé publique, des éthiciens et des professionnels de la santé pour répondre à une question clé dans la technologie de la santé : comment enseigner aux experts techniques l’éthique et aux médecins, déjà sensibilisés à l’éthique, la technologie.
Les risques de l’absence de directives éthiques
Sans directives éthiques claires, les plus de 1 200 dispositifs médicaux connectés actuellement approuvés par l’organisme de régulation des médicaments présentent également des risques potentiels pour la sécurité et la santé. Il a été noté qu’à peine 8 % de ces dispositifs disposent d’un plan pour suivre leur utilisation après approbation.
La première phase de la création de ce guide implique des chercheurs travaillant en collaboration avec de grands systèmes de santé pour comprendre ce dont les travailleurs de la santé ont réellement besoin d’apprendre sur l’IA. L’objectif est de familiariser les travailleurs de la santé avec des questions sur l’IA dès le départ.
Un guide vivant et adaptable
Le guide vise à être plus qu’une simple introduction à l’éthique de l’IA. Il se veut un outil essentiel à chaque étape du processus pour les systèmes de santé explorant une technologie avec peu de garde-fous. Par exemple, si un hôpital souhaite utiliser un nouvel outil de détection d’images intégrant l’IA pour le cancer du sein, les administrateurs consulteraient le guide au moment de l’achat pour s’assurer qu’il respecte un ensemble de directives encore en cours d’élaboration.
Étant donné l’évolution rapide de la technologie, le guide sera un document vivant que l’équipe adaptera et mettra à jour au fil du temps. L’espoir est que ce plan puisse aider les professionnels techniques du système de santé à mieux communiquer avec les cliniciens sur ce que la technologie devrait et ne devrait pas faire.
