La norme ISO/IEC 23894 est le texte de référence international sur la gestion des risques propres à l’intelligence artificielle. Publiée en février 2023 par le comité ISO/IEC JTC 1/SC 42, construite sur l’ISO 31000 et reprise en Europe sous la référence EN ISO/IEC 23894:2024, elle est le document que la plupart des équipes ouvrent le jour où l’article 9 du règlement sur l’IA (AI Act), celui qui impose un système de gestion des risques aux systèmes d’IA à haut risque, arrive sur leur bureau. Ce guide décrit ce qu’elle contient, où elle s’écarte de l’article 9, et comment l’utiliser comme méthode derrière un dossier de preuves sans la confondre avec la loi.
L’essentiel
- Des recommandations, pas des exigences : rien à certifier, aucune présomption de conformité ; la norme certifiable est l’ISO/IEC 42001 (clause 6.1.2).
- Une structure calquée sur l’ISO 31000 (principes, cadre, processus), des ajouts propres à l’IA, trois annexes informatives : onze objectifs, sept familles de sources de risque, un cycle de vie.
- « Risque » change de sens : effet de l’incertitude sur les objectifs dans la norme, probabilité d’un préjudice multipliée par sa sévérité dans le règlement sur l’IA.
- L’article 9 exige ce que la norme ignore (risque résiduel par danger, ordre des mesures, essais sur métriques prédéfinies, mineurs) et ignore ce qu’elle prévoit (consultation des parties prenantes).
- La norme harmonisée de l’article 9 sera la prEN 18228, en enquête publique jusqu’au 11 novembre 2026 ; l’annexe III s’applique dès le 2 décembre 2027.
Qu’est-ce que la norme ISO/IEC 23894 ?
Son titre complet est « Technologies de l’information, Intelligence artificielle, Recommandations sur le management du risque ». Préparé par le sous-comité ISO/IEC JTC 1/SC 42, le comité commun de l’ISO et de l’IEC consacré à l’IA, le texte a été publié en février 2023 dans sa première édition, référencée ISO/IEC 23894:2023.
Son champ : des recommandations aux organisations qui développent, produisent, déploient ou utilisent des produits, systèmes et services fondés sur l’IA, pour gérer les risques spécifiques à l’IA et intégrer cette gestion dans leurs activités. Elle est conçue pour être utilisée avec l’ISO 31000:2018, dont elle reprend la structure clause par clause. Ses références normatives : ISO 31000:2018, ISO/IEC 22989:2022 et ISO Guide 73:2009. C’est un document payant, vendu par les organismes nationaux de normalisation.
Des lignes directrices, pas un certificat
Le texte formule des recommandations (« il convient que »), jamais des exigences, et aucun schéma de certification n’existe contre l’ISO/IEC 23894 ; les attestations des organismes de formation certifient une personne, rien de plus. La norme certifiable du domaine est l’ISO/IEC 42001:2023, le système de management de l’IA, qui exige une appréciation des risques liés à l’IA (clause 6.1.2), leur traitement (6.1.3) et une analyse d’impact du système d’IA (6.1.4) ; voir ce que l’ISO/IEC 42001 exige. L’ISO/IEC 42005:2025, publiée en mai 2025, guide cette analyse d’impact ; voir notre guide de l’analyse d’impact IA. Conséquence : un éditeur qui se déclare « conforme ISO/IEC 23894 » revendique une chose qu’aucun schéma ne peut vérifier.
Ce que contient l’ISO/IEC 23894
La norme reprend les trois clauses opératoires de l’ISO 31000 et ajoute sous chacune le contexte propre à l’IA : clause 4, principes ; clause 5, cadre ; clause 6, processus de gestion des risques de l’IA. <table header-row= »true »> <tr> <td>Clause</td> <td>Ce qu’elle couvre</td> <td>Ajout propre à l’IA</td> </tr> <tr> <td>4 Principes</td> <td>Les huit principes de l’ISO 31000</td> <td>Chaque principe relu pour l’IA</td> </tr> <tr> <td>5 Cadre organisationnel</td> <td>5.2 leadership et engagement, 5.3 intégration, 5.4 conception (5.4.1 contexte, 5.4.3 rôles et redevabilités, 5.4.5 communication et consultation), 5.5 mise en œuvre, 5.6 évaluation, 5.7 amélioration</td> <td>Rôles, ressources et consultation adaptés à l’IA</td> </tr> <tr> <td>6.2 Communication et consultation</td> <td>Parties prenantes internes et externes</td> <td>Parties externes examinées plus en détail</td> </tr> <tr> <td>6.3 Portée, contexte et critères</td> <td>6.3.4 définition des critères de risque</td> <td>Critères adossés aux objectifs de l’annexe A</td> </tr> <tr> <td>6.4 Appréciation du risque</td> <td>Identification des actifs, sources de risque, événements, contrôles, conséquences ; analyse des conséquences et de la vraisemblance ; évaluation</td> <td>Annexe B comme point de départ</td> </tr> <tr> <td>6.5 Traitement du risque</td> <td>Options et plans de traitement</td> <td>Sans ordre de priorité imposé</td> </tr> <tr> <td>6.6 Suivi et revue</td> <td>Surveillance continue, revue périodique</td> <td>Système dont le comportement évolue</td> </tr> <tr> <td>6.7 Enregistrement et compte rendu</td> <td>Traçabilité des décisions</td> <td>Au service de la transparence</td> </tr> </table> Trois annexes informatives complètent le texte. L’annexe A liste, par notre lecture de la table des matières, onze objectifs associés à l’IA : redevabilité, expertise en IA, disponibilité et qualité des données d’entraînement et de test, impact environnemental, équité, maintenabilité, protection de la vie privée, résilience du système face aux perturbations, sûreté, sécurité, transparence et explicabilité. L’annexe B regroupe sept familles de sources de risque : complexité de l’environnement, manque de transparence et d’explicabilité, niveau d’automatisation, apprentissage automatique, matériel du système, cycle de vie du système, maturité de la technologie. L’annexe C donne un exemple de correspondance entre le processus et le cycle de vie d’un système d’IA. Ces objectifs et sources de risque réapparaissent dans l’annexe C de l’ISO/IEC 42001, d’où l’habitude de lire les deux normes ensemble.
ISO/IEC 23894 et article 9 du règlement sur l’IA : mêmes mots, règles différentes
L’article 9 du règlement sur l’IA n’est pas un texte de management des risques d’entreprise. Il relève du droit de la sécurité des produits, dans la tradition de l’ISO/IEC Guide 51 : identifier des dangers, les réduire à la conception, juger le risque résiduel acceptable ou non. Jonas Schuett le notait dès 2022 dans son analyse de l’article 9 : l’ISO/IEC 23894 ne donnera pas de présomption de conformité, mais reste une orientation utile. La norme, elle, vient de l’ISO 31000 : mêmes mots, sens différents. <table header-row= »true »> <tr> <td>Point</td> <td>Dans l’ISO/IEC 23894</td> <td>Dans l’article 9</td> <td>Conséquence</td> </tr> <tr> <td>Définition du risque</td> <td>Effet de l’incertitude sur les objectifs, positif ou négatif (ISO 31000, ISO/IEC 22989)</td> <td>Combinaison de la probabilité d’un préjudice et de sa sévérité (article 3, point 2)</td> <td>Un registre ISO contient des opportunités, un registre AI Act seulement des préjudices</td> </tr> <tr> <td>Qui est protégé</td> <td>Les objectifs de l’organisation, impacts externes pris en compte</td> <td>La santé, la sécurité et les droits fondamentaux des personnes</td> <td>L’organisation d’un côté, la personne exposée de l’autre</td> </tr> <tr> <td>Options de traitement</td> <td>Éviter, prendre ou augmenter le risque pour saisir une opportunité, supprimer la source, modifier la vraisemblance ou les conséquences, partager, conserver</td> <td>Ordre de priorité : éliminer ou réduire par la conception, puis atténuer et contrôler, puis informer et former (article 9, paragraphe 5)</td> <td>« Conserver » et « augmenter » n’existent pas dans l’article 9</td> </tr> <tr> <td>Acceptabilité</td> <td>Critères de risque fixés par l’organisation (clause 6.3.4)</td> <td>Risque résiduel de chaque danger et risque résiduel global jugés acceptables (article 9, paragraphe 5)</td> <td>Jugement danger par danger, pas un appétit global</td> </tr> <tr> <td>Essais</td> <td>Pas une étape du processus</td> <td>Obligatoires, sur métriques et seuils probabilistes définis à l’avance, avant la mise sur le marché (article 9, paragraphes 6 à 8)</td> <td>La norme ne dit pas comment prouver qu’une mesure fonctionne</td> </tr> <tr> <td>Consultation</td> <td>Clauses 6.2 et 5.4.5</td> <td>Aucune étape de ce type ; l’OCDE a relevé l’écart en 2023</td> <td>Ce que la norme prévoit, le règlement ne le demande pas</td> </tr> </table> La confusion coûte cher dans les deux sens. Un registre construit avec le vocabulaire de la norme contiendra des opportunités, des risques organisationnels et des risques « conservés » par décision éclairée : un auditeur qui le lit à l’aune de l’article 9 n’en a aucun usage, et s’en inquiète, car un risque pour la santé d’une personne ne se conserve pas. En sens inverse, il ne contiendra pas ce que l’auditeur cherche en premier : par danger, un jugement motivé sur le risque résiduel et l’essai qui l’étaye. Notre guide sur la notion de risque IA détaille cette différence.
L’article 9 trace aussi ses propres limites, sans équivalent dans la norme : le paragraphe 3 le restreint aux risques qui peuvent raisonnablement être atténués ou éliminés par la conception, le développement ou des informations techniques adéquates ; le paragraphe 9 impose d’examiner l’incidence sur les personnes de moins de 18 ans et les groupes vulnérables ; le paragraphe 10 permet de le combiner avec les procédures exigées par un autre texte de l’Union. La norme ne connaît aucun de ces bornages : elle décrit un processus et ne peut pas dire quand vous avez terminé ; l’article 9 décrit un résultat attendu pour chaque système d’IA à haut risque.
Où se situe l’ISO/IEC 23894 dans la pile des normes
La pile se lit de bas en haut. L’ISO 31000:2018 fournit le socle et la définition du risque ; l’ISO/IEC 22989:2022 le vocabulaire de l’IA ; l’ISO/IEC 23894 applique le socle à l’IA ; l’ISO/IEC 42001 est le système de management certifiable qui consomme l’appréciation des risques (clause 6.1.2) et reprend objectifs et sources de risque dans son annexe C ; l’ISO/IEC 42005:2025 couvre l’analyse d’impact. La boîte à outils ISO 42001 pour le règlement sur l’IA répartit cette pile entre les exigences du règlement.
Côté américain, le NIST AI RMF 1.0 est relié à la norme par une table de correspondance publiée sur le site du NIST. La version de janvier 2023, établie contre le projet final, est marquée « remplacée » ; la version révisée du 14 août 2025, fournie par l’INCITS, fait correspondre GOVERN aux clauses 5.2 à 5.4 et 5.6, MAP à 5.4.1, 6.3 et 6.4, MEASURE à 6.4.4 et 6.6, MANAGE à 5.5 à 5.7 et 6.5. Sa note 3 signale que la clause 6.2, communication et consultation, n’a aucune contrepartie côté NIST.
L’OCDE a publié en novembre 2023 un document sur l’interopérabilité des cadres de gestion des risques de l’IA : les principaux cadres partagent quatre étapes (définir, apprécier, traiter, gouverner) ; l’ISO/IEC 23894 complète l’ISO 31000 sans sortir de son cadre de premier niveau, avec une approche des impacts plus large qui examine les parties prenantes externes plus en détail.
Le Contrôleur européen de la protection des données (CEPD) a publié le 11 novembre 2025 ses orientations sur la gestion des risques des systèmes d’IA pour les institutions de l’Union, au titre de la protection des données et non de la surveillance du marché : vocabulaire de l’ISO 31000 (source de risque, événement, conséquence, contrôle), treize risques rattachés au cycle de vie, refus explicite de classer vraisemblance et sévérité. Un régulateur européen lit donc cette famille de normes comme une grammaire, pas comme un barème.
En Europe, le texte a été repris sous la référence EN ISO/IEC 23894:2024, en vigueur dans les collections nationales depuis mars 2024 (DIN EN ISO/IEC 23894:2023-11 en Allemagne). C’est donc une norme nationale partout dans l’Union, mais pas une norme harmonisée : seule une norme citée au Journal officiel au titre de l’article 40 confère une présomption de conformité. En France, l’AFNOR, membre français du CEN, commercialise l’édition NF EN ISO/IEC 23894. Le texte français du règlement parle de « fournisseur » et de « déployeur », et le titre officiel de l’article 9 est « Système de gestion des risques » : c’est ce vocabulaire, pas celui de la norme, qui doit apparaître dans la procédure interne. Côté données personnelles, la CNIL publie ses propres recommandations sur l’IA, complémentaires de l’analyse de risques.
prEN 18228 : la norme harmonisée que l’article 9 utilisera vraiment
Le document qui portera la présomption de conformité pour l’article 9 n’est pas l’ISO/IEC 23894 mais la prEN 18228, « AI Risk Management », rédigée par le groupe de travail 2 du CEN-CENELEC JTC 21 au titre de la demande de normalisation de la Commission. Le CEN-CENELEC indique dans sa lettre d’information du 27 mai 2026 que le projet est destiné à soutenir l’article 9. Son périmètre, selon la fiche StandICT : terminologie, principes et processus de gestion des risques pour la santé, la sécurité et les droits fondamentaux, sur tout le cycle de vie. Le projet demande aux fournisseurs des critères objectifs d’acceptabilité sans fixer de niveaux acceptables, et n’est pas destiné aux risques encourus par l’organisation elle-même : l’exact inverse du point de départ de l’ISO 31000.
Côté calendrier, une première enquête publique a couru jusqu’à fin juillet 2026 (consultation néerlandaise du NEN du 18 mai au 30 juin 2026). L’édition révisée prEN 18228:2026, publiée le 11 septembre 2026, est en seconde enquête publique jusqu’au 11 novembre 2026 selon la fiche du DIN. Un projet ne confère aucune présomption de conformité, et selon les suivis publics aucune norme harmonisée du règlement sur l’IA n’avait été citée au Journal officiel en juillet 2026. La norme voisine prEN 18286 (gestion de la qualité, article 17) est au vote formel après un premier vote sans approbation.
Les dates d’application ont bougé avec le règlement (UE) 2026/1744, dit Digital Omnibus sur l’IA, en vigueur depuis le 27 juillet 2026 : annexe III à partir du 2 décembre 2027, annexe I à partir du 2 août 2028, dates fixes. L’Omnibus n’a pas touché à l’article 9 : la version consolidée du règlement (UE) 2024/1689 n’y porte aucune modification. Le calendrier de l’évaluation de la conformité suit ces dates.
Conséquence pratique :
- Construire la méthode sur l’ISO/IEC 23894 dès maintenant : la prEN 18228 hérite de la même forme de processus, ce travail ne sera pas perdu.
- Rédiger les critères d’acceptabilité et le jugement sur le risque résiduel avec les mots de l’article 9, paragraphe 5, et de la prEN 18228 (risque pour les personnes, danger par danger), pas avec ceux de la clause 6.3.4.
- Dater la procédure et planifier sa révision pour le moment où la prEN 18228 sera publiée, puis citée au Journal officiel.
Utiliser l’ISO/IEC 23894 comme méthode derrière un dossier article 9 : cinq étapes
- Adopter la norme comme méthode et l’article 9 comme critère d’acceptation. L’écrire dans la politique IA, et tenir un registre des risques par système d’IA, pas un registre unique : l’article 9 raisonne système par système, à partir de l’inventaire des systèmes d’IA.
- Tenir deux colonnes pour chaque risque. La première décrit l’effet sur les objectifs de l’organisation, au sens de la norme ; la seconde, le préjudice pour les personnes, avec probabilité et sévérité, au sens du règlement. Seule la seconde décide de l’acceptabilité ; l’appétence au risque ne gouverne que la première.
- Utiliser l’annexe B comme liste de contrôle pour l’identification, et la compléter avec ce que l’article 9 nomme expressément : mésusage raisonnablement prévisible, mineurs et groupes vulnérables, et les risques que les autres exigences des articles 9 à 15 (données, documentation, supervision humaine, exactitude, cybersécurité) laissent ouverts.
- Consigner, pour chaque danger, la mesure retenue dans l’ordre de l’article 9, paragraphe 5 (conception, puis contrôle, puis information et formation) et le jugement sur le risque résiduel, puis l’essai qui le prouve, avec la métrique et le seuil fixés avant l’essai. Un seuil choisi après les résultats n’est pas un seuil.
- Relier la clause 6.6 (suivi et revue) au plan de surveillance après commercialisation de l’article 72, et la clause 6.7 (enregistrement) à la documentation technique de l’annexe IV. Le signalement des incidents alimente la première, la documentation du système d’IA la seconde. Ajouter un compte rendu de consultation (clause 6.2) des personnes concernées, validé par le comité de gouvernance de l’IA : l’article 9 ne l’exige pas, mais les auditeurs le demandent de plus en plus.
Côté outillage, un logiciel de gestion des risques IA, AI Sigil par exemple, garde au même endroit le registre par système, les deux colonnes de risque, les mesures et les preuves.
Questions fréquentes
Qu’est-ce que l’ISO/IEC 23894, en termes simples ? C’est le guide international qui explique comment appliquer la gestion des risques classique, celle de l’ISO 31000, aux systèmes d’intelligence artificielle. Publié en février 2023 par l’ISO/IEC JTC 1/SC 42, il reprend principes, cadre et processus de l’ISO 31000, ajoute sous chaque clause ce qui change avec l’IA, et fournit trois annexes : objectifs propres à l’IA, sources de risque, correspondance avec le cycle de vie. Il formule des recommandations, pas des obligations.
Peut-on se faire certifier ISO/IEC 23894 ? Non. La norme est un document de recommandations, sans exigences auditables, et aucun organisme de certification ne délivre de certificat contre elle. Les attestations de formation certifient une personne, pas une organisation. La norme certifiable est l’ISO/IEC 42001:2023, qui exige une appréciation des risques (clause 6.1.2) et peut s’appuyer sur l’ISO/IEC 23894 comme méthode. Un éditeur « conforme ISO/IEC 23894 » affirme une chose qu’aucun schéma ne vérifie.
L’ISO/IEC 23894 rend-elle conforme à l’article 9 du règlement sur l’IA ? Non. Seule une norme harmonisée citée au Journal officiel confère une présomption de conformité (article 40), rôle réservé à la future EN 18228. Sur le fond, les deux textes ne définissent pas le risque de la même façon ni n’imposent le même traitement, et l’article 9 exige des essais sur métriques prédéfinies, un jugement d’acceptabilité par danger et l’examen des mineurs, absents de la norme. Elle reste une bonne méthode pour organiser le dossier.
Quelle est la différence entre l’ISO/IEC 23894 et l’ISO/IEC 42001 ? L’ISO/IEC 42001 est un système de management : des exigences (politique, rôles, objectifs, audits internes, revue de direction) qu’un organisme accrédité peut certifier, dont l’appréciation des risques (6.1.2), leur traitement (6.1.3) et l’analyse d’impact (6.1.4). L’ISO/IEC 23894 est le guide de méthode pour mener cette appréciation, sans exigences ni certificat. Les deux partagent la même liste d’objectifs et de sources de risque : l’une dit quoi exiger, l’autre comment faire.
Qu’est-ce que la prEN 18228 et quand s’applique-t-elle ? Le projet de norme européenne du CEN-CENELEC JTC 21 destiné à soutenir l’article 9 du règlement sur l’IA. Il traite des risques pour la santé, la sécurité et les droits fondamentaux, et exclut les risques de l’organisation elle-même. L’édition révisée prEN 18228:2026 est en seconde enquête publique jusqu’au 11 novembre 2026. Elle ne donnera une présomption de conformité qu’une fois adoptée et citée au Journal officiel ; l’annexe III s’applique dès le 2 décembre 2027.
Comment l’ISO/IEC 23894 s’articule-t-elle avec le NIST AI RMF ? Par une table de correspondance maintenue par l’INCITS et hébergée par le NIST, révisée le 14 août 2025 : GOVERN dans le cadre (5.2 à 5.4, 5.6), MAP dans le contexte et l’identification (5.4.1, 6.3, 6.4), MEASURE dans l’évaluation et le suivi (6.4.4, 6.6), MANAGE dans le traitement (5.5 à 5.7, 6.5). Seule la clause 6.2, communication et consultation, n’a pas de contrepartie. Aucun des deux textes ne confère de présomption de conformité.
Conclusion
L’ISO/IEC 23894 est une bonne méthode et une mauvaise loi. Bonne méthode : un processus complet, un vocabulaire partagé avec l’ISO 31000 et l’ISO/IEC 42001, une liste d’objectifs et de sources de risque, une étape de consultation que ni l’article 9 ni le NIST AI RMF ne prévoient. Mauvaise loi : son risque n’est pas celui du règlement, ses options de traitement contredisent l’ordre de priorité de l’article 9, et elle ne fixe ni seuil d’acceptabilité par danger ni essai. Cinq verbes résument la ligne de conduite : adopter la norme pour le processus, écrire les critères avec les mots du règlement, séparer les deux vocabulaires du risque, dater la procédure, surveiller la prEN 18228, dont l’enquête publique se ferme le 11 novembre 2026.