Qui est responsable de l’IA responsable ?
La responsabilité en matière d’IA est devenue un sujet de préoccupation majeur dans les organisations, alors que l’IA continue d’être intégrée dans divers logiciels et applications. Une étude récente met en lumière les défis auxquels les dirigeants en matière d’approvisionnement, de procurement et de gestion des fournisseurs (SVPM) doivent faire face pour intégrer la gouvernance de l’IA responsable dans leurs contrats.
Il est alarmant de constater que de nombreux contrats de logiciels et de fournisseurs de cloud manquent d’engagements explicites concernant la responsabilité en matière d’IA. En effet, certains incluent des clauses de non-responsabilité qui les exemptent de toute responsabilité liée aux systèmes d’IA irresponsables.
Qui est responsable des résultats de l’IA ?
Lors de discussions sur la responsabilité des résultats de l’IA, les réponses les plus fréquentes sont préoccupantes. Beaucoup affirment que « personne » n’est responsable, d’autres soutiennent qu’« ils n’utilisent pas l’IA », et certains pensent que « c’est la responsabilité de tout le monde ». Aucune de ces réponses n’est acceptable.
Le fait qu’aucune personne ne soit désignée comme responsable est particulièrement inquiétant. Les organisations doivent reconnaître l’importance de la responsabilité autour de l’IA.
Qu’est-ce qu’il faut pour être responsable ?
Pour qu’une organisation soit réellement responsable, il est essentiel d’assurer un alignement des valeurs. Les responsables de la gouvernance de l’IA doivent obtenir le soutien de la direction et s’assurer que tous les partenaires sont conscients de l’importance de cette gouvernance.
Il est également crucial de maintenir un inventaire des modèles d’IA. On ne peut gouverner que ce que l’on peut voir, il est donc nécessaire de garder une trace des modèles d’IA utilisés par l’organisation, accompagnée des métadonnées pertinentes.
Audit et réglementation
Les responsables doivent savoir comment auditer ces modèles pour s’assurer qu’ils fonctionnent comme prévu. De plus, avec le paysage réglementaire en constante évolution, il est impératif de suivre les lois spécifiques à l’IA qui ont été mises en place dans de nombreux pays.
Éducation à l’IA
La littératie en matière d’IA est également essentielle. Les responsables de la gouvernance de l’IA doivent être capables d’éduquer les employés sur les principes éthiques que l’organisation souhaite voir reflétés dans toute solution d’IA.
Structures d’incitation et conception
Il est crucial d’établir des structures d’incitation pour encourager les comportements responsables en matière de curation des modèles d’IA. Cela inclut la mesure et l’incitation des bonnes pratiques lors de la gestion de l’inventaire des modèles d’IA.
Conclusion
En résumé, il est essentiel de se rappeler que l’IA est déjà utilisée dans les organisations. Les dirigeants doivent établir une stratégie d’IA rigoureuse pour garantir une gouvernance efficace et une mise en œuvre éthique. La responsabilité de l’IA ne doit pas être perçue comme une tâche secondaire, mais comme un élément central de la stratégie organisationnelle.
