La gouvernance de l’IA dans le secteur de la santé numérique
Une entreprise de santé numérique a créé une plateforme qui associe les membres des plans de santé à plus de 20 solutions de santé numérique sélectionnées. Récemment, deux responsables de l’entreprise ont discuté de leur modèle commercial et de leur croissance, ainsi que de leur approche de la gouvernance de l’IA au sein de leur réseau de partenaires en santé numérique.
Modèle commercial et partenariats
La société a été fondée dans le cadre de la loi sur les soins abordables pour servir les membres de Medicare Advantage, les orientant vers des programmes de prévention du diabète. Au fil du temps, des clients commerciaux ont demandé des programmes numériques pour la gestion du poids et la prévention du diabète. L’entreprise a donc développé un modèle qui dirige les utilisateurs vers ces programmes et collecte des informations sur l’engagement et les résultats.
Actuellement, l’entreprise a plusieurs grands clients de plans de santé qui utilisent toutes les catégories de conditions principalement sur les marchés commerciaux.
Vérification des solutions de santé numérique
La société effectue une vérification clinique des solutions de santé numérique et examine leur adéquation avec les parcours de soins. Les solutions doivent également accepter un modèle de paiement basé sur la performance, reliant engagement et résultats cliniques.
Réseau en santé comportementale
La société a récemment annoncé un nouveau réseau en santé comportementale avec des partenaires. Ce développement vise à élargir les offres pour mieux répondre aux besoins des clients, en intégrant des solutions de santé mentale.
Défis de gouvernance de l’IA
La gouvernance de l’IA présente des défis, notamment la gestion de l’inventaire des systèmes d’IA utilisés et la surveillance continue des performances. Les lacunes dans la réponse aux incidents sont également préoccupantes, notamment lorsqu’un système d’IA fait une recommandation problématique. La nécessité d’une voie d’escalade dans un contexte clinique est essentielle.
Cadre de gouvernance de l’IA
Un cadre de gouvernance de l’IA a été mis en place pour aider les fournisseurs de santé numérique. Ce cadre vise à répondre aux préoccupations des payeurs sur la transparence et les risques, en intégrant des perspectives cliniques et de conformité. Une commission de surveillance interfonctionnelle est chargée de gérer les risques associés à l’IA.
Conclusion
La mise en œuvre de ce cadre de gouvernance dans l’ensemble du réseau de partenaires est en cours. L’entreprise travaille également sur un système de notation de maturité de l’IA pour évaluer les fournisseurs de santé numérique en matière de sécurité et de risques liés à l’IA. Ces efforts visent à assurer une utilisation responsable et transparente de l’IA dans le secteur de la santé numérique.
