Commentaires sur les chatbots de santé alimentés par l’IA
Alors que la législation impose des normes strictes en matière de traitement des données personnelles au Royaume-Uni et dans l’UE, cela ne rend pas impossible l’opération d’un chatbot de santé alimenté par l’IA sur ce continent. Bien que ce ne soit pas le premier outil de ce type, il ne sera certainement pas le dernier.
Sensibilité des données de santé
Reconnaissant la sensibilité particulière des données de santé et anticipant peut-être les préoccupations des régulateurs et des sujets de données, la publicité met l’accent sur le fait que ce chatbot a été conçu avec la vie privée et la sécurité à l’esprit. Il souligne les nombreux contrôles en place, comme le fait de ne pas utiliser les conversations pour entraîner son IA. Cependant, les détails sont cruciaux : ce qui est viable aux États-Unis au lancement pourrait nécessiter des changements significatifs pour les marchés de l’UE et du Royaume-Uni, ainsi que des évaluations d’impact.
Considérations réglementaires
Ce n’est pas seulement la législation sur la protection des données qui peut constituer un obstacle. Les outils d’IA utilisés à des fins médicales peuvent être classés comme des dispositifs médicaux selon la loi britannique, ce qui implique d’autres exigences avant de pouvoir commercialiser ces outils. Cela inclut l’enregistrement auprès des autorités réglementaires et, selon le niveau de risque, la réalisation d’évaluations supplémentaires. Des considérations similaires existent du point de vue de l’UE.
De plus, si le chatbot est considéré comme un dispositif médical, il sera classé comme un système d’IA à haut risque selon la loi sur l’IA de l’UE, entraînant des obligations supplémentaires.
Impact sur l’adoption des outils d’IA
Il n’est donc pas surprenant que la publicité soit remplie de disclaimers indiquant que l’outil est conçu pour soutenir, et non remplacer, les soins médicaux, et qu’il n’est pas destiné à établir des diagnostics ou des traitements. Ces disclaimers sont essentiels, étant donné les problèmes d’exactitude et le potentiel d’hallucination de l’IA. En matière de santé, les erreurs dans les résultats de l’IA peuvent littéralement être une question de vie ou de mort.
Les déploiements progressifs sont courants dans le domaine technologique, et cela pourrait bien être ce qui était prévu dès le départ, étant donné qu’il semble déjà y avoir une liste d’attente aux États-Unis.
Confiance et partage des données
Le partage accru des données signifie généralement un risque accru. Cela introduit plus d’opportunités pour que les données soient compromises en élargissant la surface d’attaque. Cela peut également entraîner une perte de contrôle, rendant plus probable l’utilisation secondaire imprévue des données. Cependant, aucun des riches aperçus, de l’amélioration des performances et de la personnalisation dont nous pouvons tous bénéficier pour améliorer notre santé n’est possible sans ce partage.
Le partage nécessite la confiance, surtout en ce qui concerne les aspects les plus personnels de nos vies. Si cette confiance est rompue, cela pourrait ralentir l’adoption de ces outils qui ont le potentiel de transformer nos vies pour le mieux. C’est pourquoi, en matière d’IA, il est si important de sortir d’une mentalité de « somme nulle » : l’innovation et la sécurité vont de pair, et il ne s’agit pas de choisir l’un ou l’autre.
