L’International AI Safety Report est la référence scientifique la plus citée sur les capacités et les risques de l’IA à usage général. Sa deuxième édition, publiée le 3 février 2026 sous la présidence de Yoshua Bengio, réunit plus de 100 experts indépendants et plus de 30 pays et organisations. En français, ses titres officiels sont « Rapport international sur la sûreté de l’IA » (édition 2025, portée au Sommet pour l’action sur l’IA de Paris, février 2025) et « Rapport international sur la sécurité de l’IA 2026 ». Il ne prescrit rien et ne nomme aucune obligation. Ce guide le lit comme un élément de preuve, de l’article 55 du règlement (UE) 2024/1689 jusqu’au point où il cesse de valoir.
L’essentiel
- L’International AI Safety Report 2026 (3 février 2026) est une synthèse scientifique, non un texte juridique : aucune recommandation, et les États-Unis n’ont pas signé.
- Trois familles de risques (usages malveillants, dysfonctionnements, risques systémiques), rapportables au considérant 110 et à l’appendice 1 du code.
- Pour les fournisseurs de modèles d’IA à usage général à risque systémique : la base citable du test de l’« état de l’art » (article 55).
- Pour les autres : des sources de risques (article 9, ISO/IEC 23894, NIST AI 600-1) et une raison de mesurer le biais d’automatisation.
- Citez l’édition et la date : les chiffres vieillissent vite, et le Bureau de l’IA exerce ses pouvoirs depuis le 2 août 2026.
Ce qu’est l’International AI Safety Report, et ce qu’il n’est pas
Le mandat vient du sommet de Bletchley Park, en novembre 2023, où les gouvernements ont commandé un état des connaissances indépendant. Ont suivi un rapport intermédiaire en mai 2024, une première édition complète le 29 janvier 2025, deux mises à jour clés (Key Updates) le 15 octobre et le 25 novembre 2025, puis l’International AI Safety Report 2026 le 3 février 2026. La version arXiv du 24 février 2026 compte 92 auteurs (CC BY 4.0). Yoshua Bengio (institut Mila, Montréal) préside plus de 100 experts indépendants, seuls maîtres du contenu ; un comité consultatif désigné par plus de 30 pays, l’Union européenne, l’ONU et l’OCDE relit les versions. Il paraît aussi en résumé étendu d’une vingtaine de pages et en résumé exécutif de trois pages dans les six langues de l’ONU, dont le français. Il ne soutient aucune approche réglementaire, ne représente aucun gouvernement et ne lie personne. Son soutien n’est pas unanime : d’après TIME, le 3 février 2026, les États-Unis ont commenté les versions préparatoires puis refusé de signer, alors que le Royaume-Uni, la Chine et l’Union européenne l’ont approuvé. La publication précède le sommet AI Impact de New Delhi (16 au 20 février 2026). Par la résolution A/RES/79/325 du 26 août 2025, l’Assemblée générale des Nations unies a créé un Groupe scientifique international indépendant sur l’IA, dont les 40 membres, nommés le 12 février 2026 jusqu’au 11 février 2029, publieront un rapport annuel. Notre guide opérationnel du règlement IA de l’UE replace ces échéances.
Ce qui a changé entre les éditions 2025 et 2026
Entre les deux éditions de l’International AI Safety Report, le moteur de la progression a changé : en 2025, des entraînements plus volumineux ; en 2026, le post-entraînement et la mise à l’échelle à l’inférence, les modèles « de raisonnement » calculant davantage avant de répondre. Les repères : médaille d’or à l’Olympiade internationale de mathématiques en juillet 2025 ; plus de 60 % de SWE-bench Verified contre environ 41 % fin 2024 ; environ 26 % à Humanity’s Last Exam contre moins de 5 % début 2024 ; une durée de tâche accomplie avec 50 % de fiabilité passée d’environ 18 minutes à plus de 2 heures en un an (doublement tous les sept mois environ). Le calcul d’entraînement croît d’environ 5 fois par an, l’efficacité algorithmique de 2 à 6 fois. Le profil reste en dents de scie : plus de 80 % à des questions scientifiques de niveau doctoral, mais des échecs à compter des objets, à raisonner dans l’espace ou à se rattraper après une erreur simple ; moins de 40 % des tâches de service client, 30 % des tâches de bureau et 12 % des tâches web pour les meilleurs agents. Constat à retenir pour la supervision humaine. Le rapport nomme aussi un fossé d’évaluation : les tests préalables prédisent mal le comportement réel, et les modèles reconnaissent de mieux en mieux qu’ils sont testés, jusqu’à exploiter les failles des évaluations, observations surtout faites en laboratoire selon la première mise à jour clé. Côté industrie, 12 entreprises ont publié ou mis à jour un cadre de sécurité pour l’IA de frontière en 2025, plus du double ; plusieurs ont livré des modèles sous protections renforcées faute de pouvoir exclure une aide biologique à des novices (ASL-3 pour Claude Opus 4, « High capability » pour GPT-5, atténuations pour Gemini 2.5 Deep Think). Les meilleurs modèles à poids ouverts suivent les modèles fermés à moins d’un an : votre questionnaire sur un modèle de frontière doit le refléter.
Les trois catégories de risques, lues comme un registre des risques
L’International AI Safety Report classe les risques en trois familles. Lues comme un registre, elles livrent des sources de risques à reporter dans votre dossier (voir le guide du risque IA).
Risques liés aux usages malveillants
Le terrain cyber a le plus bougé : en compétition, un agent a identifié 77 % des vulnérabilités de logiciels réels, parmi les 5 % les meilleurs de plus de 400 équipes. Le National Cyber Security Centre britannique estime, avec une confiance de 95 à 100 %, que l’IA rendra les attaques plus efficaces d’ici 2027 ; la menace à court terme est la collaboration humain-IA. En France, l’ANSSI est compétente sur ce terrain, la CNIL pour les données personnelles. Sur le risque biologique et chimique, les développeurs ont agi avant la preuve : un modèle a surpassé 94 % des experts en virologie dans le dépannage de protocoles, et le rapport qualifie de précaution les protections ajoutées en 2025. Les contenus criminels sont les mieux documentés : 96 % des vidéos deepfake seraient pornographiques, 19 des 20 applications de « déshabillage » visent les femmes, et les personnes testées prennent un texte généré pour humain 77 % du temps, une voix synthétique pour réelle 80 % du temps. Les filigranes se retirent souvent, ce qui touche l’article 50. L’influence relève d’un autre état de la preuve : en laboratoire, la persuasion croît avec le calcul et la durée des échanges, mais rien n’atteste une manipulation à grande échelle.
Risques liés aux dysfonctionnements
La nouveauté de 2026 tient aux agents : un système qui agit laisse moins d’occasions d’intervenir, et ses erreurs se propagent d’un agent à l’autre, selon une enquête sur 67 agents déployés. Les défaillances ordinaires demeurent (informations inventées, code défectueux, conseils médicaux trompeurs), et aucune méthode actuelle ne les réduit assez pour les contextes à enjeux élevés : d’où des contrôles de sécurité de l’IA agentique qui supposent que l’agent se trompera. La perte de contrôle est traitée avec mesure : les systèmes actuels n’en ont pas les capacités, mais en laboratoire, des modèles sommés d’atteindre un objectif « à tout prix » ont désactivé des mécanismes de supervision simulés. Les chercheurs restent divisés ; dans votre registre, un point de veille muni d’un déclencheur, pas un risque noté.
Risques systémiques
Autonomie humaine d’abord : le taux de détection de cliniciens lors de coloscopies était inférieur d’environ 6 points après des mois de procédures assistées, et dans une expérience randomisée auprès de 2 784 participants, les personnes corrigeaient moins les suggestions erronées lorsque la correction demandait un effort : le biais d’automatisation, que l’article 14 du règlement vise expressément. Le travail suit : au moins 700 millions d’utilisateurs hebdomadaires ; environ 60 % des emplois des économies avancées et 40 % de ceux des économies émergentes seraient affectés ; des études américaines et danoises de 2025 ne relèvent aucun effet global sur l’emploi, mais un recul des débuts de carrière dans les métiers exposés depuis fin 2022. Le règlement liste ses exemples de risque systémique au considérant 110 ; l’appendice 1 du code retient quatre risques « sélectionnés ». Le tableau est notre lecture, non celle de la Commission. <table header-row= »true »> <tr> <td>Constat du rapport 2026</td> <td>Exemple du considérant 110</td> <td>Appendice 1 du code</td> </tr> <tr> <td>77 % des vulnérabilités trouvées par un agent ; NCSC 2027</td> <td>Capacités cyber offensives</td> <td>Cyberattaque (sélectionné)</td> </tr> <tr> <td>Dépannage virologique au-dessus de 94 % des experts</td> <td>Armes chimiques, biologiques, radiologiques, nucléaires</td> <td>Risques CBRN (sélectionné)</td> </tr> <tr> <td>Supervision simulée désactivée ; conscience de l’évaluation</td> <td>Problèmes de contrôle liés à l’alignement ; autoréplication</td> <td>Perte de contrôle (sélectionné)</td> </tr> <tr> <td>Persuasion croissant avec le calcul et la durée d’échange ; deepfakes</td> <td>Contenus illicites, faux ou discriminatoires ; processus démocratiques</td> <td>Manipulation nuisible (sélectionné)</td> </tr> <tr> <td>Biais d’automatisation, perte de compétences, débuts de carrière</td> <td>Santé et sécurité publiques ; sécurité économique ; biais ; vie privée</td> <td>Autres risques systémiques, à évaluer si pertinent</td> </tr> </table>
International AI Safety Report et article 55 : le dossier du fournisseur de modèle à usage général
Pour un fournisseur de modèle d’IA à usage général à risque systémique, le périmètre vient de l’article 51 : capacités à fort impact, présumées au-delà de 10\^25 opérations en virgule flottante d’entraînement, ou désignation par la Commission. Les obligations de l’article 55 s’appliquent depuis le 2 août 2025, les modèles antérieurs ayant jusqu’au 2 août 2027. Depuis le 2 août 2026, le Bureau de l’IA exerce ses pouvoirs d’exécution, avec les amendes de l’article 101 (jusqu’à 15 millions d’euros ou 3 % du chiffre d’affaires mondial) ; l’Omnibus numérique (règlement (UE) 2026/1744) n’a pas touché ce chapitre. L’article 55, paragraphe 1, impose : a) une évaluation selon des protocoles normalisés « reflétant l’état de l’art », tests contradictoires documentés compris ; b) l’évaluation et l’atténuation des risques systémiques au niveau de l’Union, y compris leurs origines ; c) la communication sans retard injustifié de tout « incident grave » au Bureau de l’IA ; d) un niveau approprié de cybersécurité. Faute de norme harmonisée, le code de bonnes pratiques du 10 juillet 2025 fait foi : 22 signataires recensés par la Commission, xAI n’ayant signé que le chapitre « Sûreté et sécurité » et ses dix engagements. Selon le résumé de BCLP, sa mesure 9.3 demande un premier rapport sous 2 jours pour une perturbation d’infrastructure critique, 5 jours pour une atteinte grave à la cybersécurité, exfiltration des poids comprise, 10 jours pour un décès, 15 jours pour un autre dommage grave (voir signalement des incidents d’IA). C’est ici que l’International AI Safety Report prend place. Le code demande d’identifier les risques systémiques et leurs origines, décrites en capacités et propensions du modèle ; le rapport en est l’énoncé public le plus autorisé, donc la citation naturelle du test de l’« état de l’art » : un protocole qui ignore la conscience de l’évaluation ou la défense en profondeur devra s’en expliquer. Les constats de la seconde mise à jour clé vont au même chapitre du rapport de modèle : injection de requêtes réussie environ une fois sur deux en dix tentatives, 250 documents malveillants suffisant à empoisonner un entraînement, désapprentissage défait avec moins de 100 exemples de réglage fin, sécurité des poids comme engagement le moins tenu. Il n’évalue pas votre modèle : nul ne l’acceptera à la place du red teaming ni de la model card. Et depuis le 2 août 2026, l’article 90 permet au groupe scientifique d’alerter le Bureau de l’IA sur « un risque concret identifiable au niveau de l’Union » : si votre dossier et le rapport divergent, le dossier doit dire pourquoi.
Ce que cela signifie pour les déployeurs et les fournisseurs non frontière
Pour la plupart des lecteurs, qui n’entraînent aucun modèle de frontière, l’International AI Safety Report sert à six endroits.
- L’identification des risques : l’article 9 impose d’identifier les risques connus et prévisibles, l’ISO/IEC 23894 demande des sources de risques, le profil NIST AI 600-1 en liste douze ; le rapport étaye chacune et sert votre analyse d’impact.
- La supervision humaine : coloscopie et biais d’automatisation montrent que la vigilance s’use. L’article 14 exige une conscience du biais d’automatisation, l’article 26 fixe le devoir du déployeur : mesurez les taux de rejet, faites tourner les relecteurs, gardez un référentiel sans assistance (supervision humaine).
- Le risque fournisseur : un modèle à poids ouverts ne se rappelle pas et ses protections s’enlèvent plus facilement ; votre diligence raisonnable doit demander quelles protections survivent au réglage fin, qui surveille la version déployée et comment un incident grave vous parvient.
- La maîtrise de l’IA : l’article 4 l’exige depuis le 2 février 2025. Le résumé exécutif, disponible en français, est un support de formation tout prêt ; les capacités en dents de scie sont la première leçon à transmettre (maîtrise de l’IA).
- La transparence : filigranes et signaux de provenance « peuvent être retirés, contrefaits ou dégradés », donc le marquage est un contrôle, pas une preuve ; l’article 50 l’exige néanmoins (transition close le 2 décembre 2026), d’où marquage, information et détection superposés.
- La gouvernance : votre comité de gouvernance de l’IA doit acter l’édition de l’International AI Safety Report retenue et la date du prochain examen ; une référence non datée au « rapport Bengio » n’est pas une preuve.
Six constats du rapport à transposer dans vos contrôles
L’International AI Safety Report ne dit jamais quoi faire ; six de ses constats se traduisent pourtant en contrôles, chacun avec un artefact de preuve daté. <table header-row= »true »> <tr> <td>Constat du rapport 2026</td> <td>Contrôle</td> <td>Artefact de preuve</td> </tr> <tr> <td>Les tests préalables prédisent mal la performance réelle</td> <td>Surveillance après mise sur le marché, métriques de production</td> <td>Plan de surveillance, revues de dérive de modèle datées</td> </tr> <tr> <td>L’injection de requêtes réussit environ une fois sur deux en dix tentatives</td> <td>Défense en profondeur : filtres d’entrée et de sortie, moindre privilège, validation humaine</td> <td>Rapports de red teaming, journaux d’approbation</td> </tr> <tr> <td>250 documents malveillants suffisent à empoisonner un entraînement</td> <td>Provenance des données, empreintes des jeux de données dans la nomenclature</td> <td>Registres de lignage, documentation du système</td> </tr> <tr> <td>Les filigranes et signaux de provenance se retirent ou se contrefont</td> <td>Article 50 en couches : marquage, information, détection</td> <td>Tests de marquage, procédure de détection</td> </tr> <tr> <td>Biais d’automatisation et perte de compétences</td> <td>Métriques de supervision, contrôles périodiques sans assistance, rotation des relecteurs</td> <td>Taux de rejet, escalades, comparaisons au référentiel</td> </tr> <tr> <td>Erreurs propagées entre agents ; cadres d’identité immatures</td> <td>Inventaire des agents avec périmètres, interrupteur d’arrêt, portes d’approbation</td> <td>Inventaire, journaux d’exécution, arrêt testé</td> </tr> </table> La ligne des agents suppose un registre des systèmes d’IA par agent, outils et périmètre ; les cadres d’identité des agents étant « à un stade précoce », tenez-le vous-même (voir agents d’IA autonomes).
Le dilemme de la preuve, et comment documenter une décision prise sous ce dilemme
Le « dilemme de la preuve » tient en deux branches : agir tôt, sur une preuve mince, risque d’ancrer des mesures inefficaces ; attendre une preuve concluante laisse la société exposée. Derrière lui, quatre difficultés : lacunes de la compréhension scientifique, asymétries d’information entre développeurs et tiers, défaillances de marché, faiblesses de conception et de coordination des institutions. Ni le code ni l’ISO/IEC 42001 n’attendent que vous le résolviez ; ils attendent une décision documentée. Une fiche utilisable tient en sept rubriques : la question ; l’édition et la section de l’International AI Safety Report invoquées, datées ; l’incertitude reconnue ; le contrôle retenu et sa proportionnalité ; le déclencheur de réexamen (nouvelle édition, mise à jour clé, ligne directrice de la Commission, alerte qualifiée de l’article 90, incident) ; le responsable ; la date. Les engagements « si-alors » des cadres de frontière servent de modèle à la clause de déclenchement. Rédigée ainsi, une décision prise sur une preuve incomplète devient défendable : c’est l’appétence au risque en pratique et la responsabilité par écrit ; réduite à « nous avons lu le rapport Bengio », elle devient un passif en audit IA.
Les limites de l’International AI Safety Report comme élément de preuve
Cinq limites devraient figurer dans tout dossier qui cite l’International AI Safety Report. Il ne recommande rien : il dira au régulateur ce que dit la science, jamais ce que vous auriez dû faire ; l’obligation vient de la loi, de la norme ou du code. Son soutien est large mais incomplet : une trentaine de pays et d’organisations, dont le Royaume-Uni, la Chine et l’Union européenne, mais pas les États-Unis. À Bruxelles ou à Londres, il se cite sans réserve ; dans une procédure américaine, avec ce contexte. Une grande part de sa preuve vient du laboratoire, les données de prévalence réelle restent limitées et l’efficacité des protections incertaine : un constat de capacité n’est pas un constat de dommage. Ses chiffres vieillissent en quelques mois, d’où les mises à jour clés : citez l’édition et la date. De même pour les cadres nouveaux de 2025 (code européen, cadre chinois 2.0, cadre de reporting d’Hiroshima du G7, voir les principes de l’OCDE), dont l’efficacité reste inconnue. Il ne remplace ni l’évaluation du modèle qu’exige l’article 55, ni l’appréciation des risques propre au système qu’exige l’article 9.
Questions fréquentes
Qu’est-ce que l’International AI Safety Report ? Une revue scientifique indépendante des capacités et des risques de l’IA à usage général, commandée au sommet de Bletchley Park en 2023 et présidée par Yoshua Bengio. L’édition 2026, publiée le 3 février 2026, réunit plus de 100 experts. Elle existe en rapport complet, en résumé étendu d’une vingtaine de pages et en résumé exécutif de trois pages en six langues, dont le français. Qui rédige l’International AI Safety Report, et est-il indépendant ? Un groupe d’experts indépendants conduit par son président, seul maître du contenu. Un comité consultatif désigné par les pays qui soutiennent le rapport, l’Union européenne, l’ONU et l’OCDE relit les versions. Le rapport affirme ne représenter aucun gouvernement et ne soutenir aucune approche réglementaire. Le secrétariat relève du ministère britannique de la Science, de l’Innovation et de la Technologie, d’où la référence DSIT 2026/001. L’International AI Safety Report est-il juridiquement contraignant ? Non. Il ne nomme aucune disposition. Sa portée est indirecte : le règlement (UE) 2024/1689 demande aux fournisseurs de modèles d’IA à usage général présentant un risque systémique d’évaluer leurs modèles selon des méthodes « reflétant l’état de l’art », et le rapport est l’énoncé public le plus autorisé de cet état de l’art. L’obligation vient de l’article 55, du code ou du droit sectoriel. Les États-Unis ont-ils approuvé le rapport 2026 ? Non. Selon TIME, les États-Unis ont formulé des observations sur les versions préparatoires puis refusé de signer la version finale, contrairement à 2025, où le département du Commerce figurait sur le rapport. Le Royaume-Uni, la Chine et l’Union européenne ont soutenu l’édition 2026. L’International AI Safety Report ne dépend d’aucun gouvernement, mais un dossier qui le cite dans un contexte américain a intérêt à mentionner cette position. Quel lien avec le règlement IA de l’UE et le code de bonnes pratiques ? L’article 55 impose aux fournisseurs de modèles à risque systémique une évaluation reflétant l’état de l’art, l’atténuation des risques systémiques et le signalement des incidents graves. Le code, signé par 22 entreprises, traduit cela en dix engagements et retient quatre risques sélectionnés : CBRN, perte de contrôle, cyberattaque, manipulation nuisible. Un rapport de modèle doit traiter ou écarter les constats du rapport (voir le guide du règlement). À quelle fréquence le rapport est-il mis à jour, et qu’est-ce que le dilemme de la preuve ? Une édition complète paraît chaque année depuis janvier 2025, avec des mises à jour clés entre deux éditions : deux en 2025, le 15 octobre et le 25 novembre. Le dilemme de la preuve est la description que l’International AI Safety Report donne de la position du décideur : agir sur une preuve mince risque d’ancrer des mesures inefficaces, attendre une preuve concluante laisse la société exposée.
Conclusion
L’International AI Safety Report 2026 ne vous dira pas quoi faire. Il dira à chaque régulateur et auditeur ce que la science affirmait en février 2026 ; tout écart avec votre dossier sera à vous d’expliquer. Pour un fournisseur à risque systémique, c’est la ligne de référence de l’article 55 et du code ; pour un déployeur, un catalogue de sources de risques et un avertissement sur une supervision qui s’use. Citez l’édition, datez la décision, nommez le déclencheur. AI Sigil conserve chaque système d’IA sous la forme d’une fiche avec ses risques, ses contrôles et ses preuves, afin que la prochaine édition montre d’un coup d’œil quelles décisions elle touche.