Cadre national d’éthique de l’IA pour un déploiement sûr et responsable
Le ministre de la Science et de la Technologie a signé une circulaire énonçant le Cadre national d’éthique de l’intelligence artificielle, conçu pour orienter la recherche, le développement et le déploiement des systèmes d’IA vers des résultats sûrs, responsables et bénéfiques pour les individus, les communautés et la société dans son ensemble.
Obligations imposées
Selon la circulaire, qui est entrée en vigueur le 10 mars, le cadre impose des obligations spécifiques aux entités et aux individus impliqués dans les activités liées à l’IA. En particulier, l’utilisation de l’IA doit garantir la sécurité et la fiabilité, tout en prévenant les dommages à la vie humaine, à la santé, à la dignité, à l’honneur et au bien-être mental.
Responsabilités des développeurs et opérateurs
Les développeurs et les opérateurs sont responsables d’incorporer des fonctionnalités de sécurité dès la phase de conception, d’anticiper les scénarios nuisibles potentiels et d’adopter des contrôles préventifs appropriés. Ils doivent également établir des critères de qualité clairs pour les données, les modèles et les résultats, ainsi que des processus internes pour les tests, la validation et la vérification avant tout déploiement.
Surveillance humaine et sécurité
Le cadre exige des capacités de surveillance et d’intervention humaines pour toutes les décisions et actions pilotées par l’IA, calibrées en fonction du niveau d’impact potentiel du système. Les entités et les individus doivent mettre en place des mécanismes pour recueillir des retours d’expérience, détecter des erreurs, initier des corrections et maintenir des plans de contingence en cas de dysfonctionnement ou d’abus.
Des protocoles de sécurité robustes doivent être mis en œuvre pour détecter et atténuer les menaces, y compris l’accès non autorisé, le détournement de système, l’empoisonnement des données ou des modèles, les attaques adversariales, l’exploitation de vulnérabilités, les violations de données ou d’autres formes d’abus, garantissant ainsi la confidentialité, l’intégrité et la disponibilité des données, des modèles, des algorithmes et de l’infrastructure de soutien.
Respect des droits humains et civils
Un accent particulier est mis sur le respect des droits humains et civils, avec des engagements envers l’équité, la transparence et la non-discrimination tout au long du développement et de l’utilisation de l’IA. Les entités et les individus doivent appliquer des processus de révision appropriés pour prévenir les violations de la vie privée, de la protection des données personnelles, de la liberté de choix, de l’accès à l’information, du droit à un traitement égal et d’autres droits inscrits dans la loi.
Équité et inclusivité
Des efforts sont nécessaires pour détecter et atténuer les biais dans les données, les modèles et les opérations, en prêtant une attention particulière aux effets sur les groupes vulnérables tels que les enfants, les personnes âgées, les personnes handicapées et d’autres groupes défavorisés. Les entités et les individus doivent fournir des notifications claires concernant l’implication de l’IA, en délivrant des détails raisonnables sur les objectifs du système, son champ d’application, ses sources de données, ses principes de fonctionnement généraux et ses limitations connues pour éviter les idées fausses sur ses capacités.
Avancement du bien-être social
De plus, le cadre encourage l’utilisation de l’IA pour promouvoir le bien-être social, l’inclusivité et le progrès durable. Les entités et les individus doivent évaluer l’utilisation de l’énergie, les ressources informatiques et les empreintes environnementales tout au long du cycle de vie de l’IA, en privilégiant les technologies écoénergétiques et les processus à faibles émissions. La conception des systèmes d’IA doit suivre les normes éthiques sociales et l’identité culturelle, tout en évitant des résultats discriminatoires ou des impacts néfastes sur les intérêts communautaires.
Innovation et responsabilité sociale
L’innovation et la responsabilité sociale des entreprises sont encouragées dans le cadre de cette initiative. L’expérimentation responsable est soutenue, ainsi que la recherche ouverte et la diffusion des connaissances conformément aux réglementations légales et à la protection des droits de propriété intellectuelle.
Révisions périodiques
Le cadre sera soumis à des révisions et à des mises à jour périodiques tous les trois ans, ou plus tôt en réponse à des changements majeurs dans la technologie, la législation ou les pratiques de gestion.
La publication de ce cadre renforce la mise en œuvre de la résolution du Politburo sur les percées en science et technologie, l’innovation et la transformation numérique nationale. Elle soutient également l’application de la loi sur l’IA, qui est entrée en vigueur le 1er mars 2026.
