Co-création d’une IA responsable et éthique avec les acteurs de la santé
Dans le développement de solutions d’intelligence artificielle (IA), il est essentiel d’adopter une approche intégrée et impliquant plusieurs parties prenantes, non seulement les développeurs, mais aussi les utilisateurs commerciaux et les clients.
Une perspective centrée sur l’utilisateur
Lors d’un panel intitulé « Au-delà de la conformité : IA responsable et éthique dans la santé publique de Singapour », il a été souligné que la technologie ne devrait pas être le point de départ. Au contraire, il est crucial de comprendre la perspective des utilisateurs, qu’ils soient cliniciens ou patients, pour construire des solutions à la fois éthiques et pratiques.
Mise en pratique des principes éthiques
Les institutions de santé publique peuvent intégrer des principes d’IA responsable et éthique dans leurs flux de travail quotidiens en utilisant des outils spécifiques comme le modèle de menace et la pratique de la carte éthique des données. Bien que le Modèle de cadre de gouvernance de l’IA pour l’IA générative soit un bon point de départ, ces pratiques aident à tisser ces principes dans le processus de réflexion de l’équipe produit.
Par exemple, la pratique de la carte éthique des données guide les discussions sur l’utilisation, l’accès et le stockage des données, garantissant que l’IA responsable ne soit pas simplement un concept théorique, mais une réalité intégrée dans le processus de développement.
Les compromis sur la perfection
L’idée centrale est que construire un modèle d’IA parfait à 100 % n’est pas toujours l’objectif. Il s’agit plutôt de décider quel niveau d’erreur est acceptable pour un cas d’utilisation et un contexte donnés. Les institutions de santé publique doivent adopter une approche pragmatique qui équilibre des besoins différents, tels que l’exactitude, l’éthique et la praticité.
Une évaluation étape par étape des données est cruciale pour s’assurer qu’elles sont représentatives de la réalité. Les intervenants reconnaissent que le biais est un problème qui ne peut être résolu qu’à une seule étape, mais doit être traité dès la collecte initiale des données jusqu’à l’exploitation continue du système d’IA.
Une approche écosystémique pour gouverner l’IA générative
Singapour adopte une approche holistique dans le lancement de son mouvement national pour la santé de la population, Healthier SG. Dans le cas du Health Promotion Board (HPB), une application unique avec les données individuelles d’un utilisateur peut ne pas suffire à promouvoir un changement durable, car la santé des individus est influencée par d’autres facteurs environnementaux.
À mesure que les systèmes d’IA s’étendent pour couvrir des données provenant d’autres sources, une approche écosystémique est nécessaire pour gouverner ces systèmes. Avec l’augmentation des données collectées pour former l’IA, il est crucial d’établir des limites éthiques et des garde-fous.
Les systèmes d’IA doivent être conçus avec un ensemble clair de limitations et un filet de sécurité intégré qui garantit une intervention humaine lorsque cela est nécessaire. Cela permet à l’IA d’agir comme un outil de soutien, et non de remplacement, de l’expertise humaine.
