Réglementation des outils de santé mentale basés sur l’IA
Une organisation basée à Seattle crée certaines des premières règles de sécurité pour les outils de santé mentale basés sur l’IA, qui sont déjà utilisés par des millions de personnes avec très peu de supervision. L’utilisation de l’IA dans les soins de santé mentale, allant des chatbots de soutien émotionnel aux outils capables de diagnostiquer des conditions, croît plus rapidement que notre capacité à gérer les risques.
Cette initiative vise à protéger les utilisateurs vulnérables contre les dommages potentiels pendant que ces outils continuent de se répandre à travers le monde.
Collaboration avec les régulateurs
PATH, une organisation à but non lucratif, travaille avec les régulateurs pour établir un système formel qui vérifie la sécurité et l’efficacité des outils d’IA avant leur utilisation par le public. Ces nouvelles normes ont été introduites lors du Sommet social du G20 et sont conçues pour servir de modèle à d’autres pays.
Les régulateurs prévoient d’appliquer ces nouvelles règles à toute entreprise commercialisant une plateforme d’IA comme outil de santé mentale. Dans ce système, les entreprises doivent prouver que leur technologie améliore réellement la santé mentale tout en suivant et en rapportant tout incident de préjudice.
Comparaison avec les tests médicaux
Le responsable de l’IA de l’organisation compare la nécessité de ces règles à la façon dont nous testons les vaccins ou les médicaments avant de les administrer à nos proches. L’organisation explore également comment les grands modèles de langage peuvent aider en toute sécurité les médecins dans des zones où les professionnels de la santé sont rares.
Innovation en matière de santé
Depuis près de 50 ans, l’organisation se concentre sur la création d’innovations en matière de santé abordables et pratiques pour les pays avec moins de ressources. Parmi leurs inventions passées, on trouve un dispositif simple qui fabrique un désinfectant à partir de sel et d’eau.
Législation en cours
Les législateurs de l’État de Washington examinent également plusieurs projets de loi pour réglementer la technologie de l’IA. Ces propositions incluent de nouvelles règles pour les chatbots de compagnie et des limites sur l’utilisation de l’IA dans les écoles afin de protéger les étudiants.
Conclusion
À mesure que les outils de santé mentale basés sur l’IA deviennent plus courants, l’accent est mis sur la définition des règles et sur la manière de garantir que ces règles protègent réellement les personnes.
