Se cita mucho y se usa poco: el International AI Safety Report (Informe internacional sobre la seguridad de la IA). Su segunda edición, del 3 de febrero de 2026 y presidida por Yoshua Bengio, reúne a más de 100 expertos independientes con el respaldo de más de 30 países y organizaciones; es la referencia científica más citada sobre el riesgo de la IA de uso general y no nombra obligación alguna. Esta guía lo lee como evidencia: qué establece, dónde lo esperan el artículo 55 y el código de buenas prácticas, qué saca de él un responsable del despliegue y dónde deja de valer como prueba.
Lo esencial
- El International AI Safety Report 2026 (3 de febrero de 2026) es ciencia, no derecho: no recomienda nada; Estados Unidos no lo firmó.
- Sus tres categorías (uso indebido, fallos, riesgos sistémicos) encajan con el considerando 110 y el apéndice 1 del código de buenas prácticas.
- Para los proveedores de modelos de IA de uso general con riesgo sistémico, la referencia del «estado de la técnica» del artículo 55.
- Para los demás, fuentes de riesgo (artículo 9, ISO/IEC 23894, NIST AI 600-1) y un motivo para medir el sesgo de automatización.
- Cite edición y fecha: las cifras envejecen en meses y la Oficina de IA sanciona desde el 2 de agosto de 2026.
Qué es el International AI Safety Report y qué no es
Yoshua Bengio preside a más de 100 expertos independientes con plena discreción sobre el contenido; un panel consultivo nominado por más de 30 países, la Unión Europea, la ONU y la OCDE revisó los borradores. No es la postura de un gobierno ni un texto de la industria. El mandato nace en la Cumbre de Seguridad de la IA de Bletchley Park, en noviembre de 2023. Siguieron la primera edición completa el 29 de enero de 2025, dos actualizaciones clave (Key Updates) el 15 de octubre y el 25 de noviembre de 2025, y el International AI Safety Report 2026 el 3 de febrero de 2026, referencia DSIT 2026/001; su versión de arXiv, del 24 de febrero de 2026, lista 92 autores bajo licencia CC BY 4.0. Lo que el International AI Safety Report no es, lo dice él mismo: no respalda ninguna política, no representa a ningún gobierno y no vincula a nadie. Su apoyo tampoco es completo: según TIME, el 3 de febrero de 2026, Estados Unidos comentó los borradores y declinó firmar la versión final, mientras el Reino Unido, China y la Unión Europea la respaldaban. Salió antes de la Cumbre sobre el Impacto de la IA de la India (Nueva Delhi, 16 a 20 de febrero de 2026), con Ginebra como siguiente cita en 2027, y ya tiene compañía. Por la resolución A/RES/79/325, de 26 de agosto de 2025, la Asamblea General de la ONU creó un Grupo Científico Internacional Independiente sobre la IA, con 40 miembros nombrados el 12 de febrero de 2026 hasta el 11 de febrero de 2029 y un informe anual. Nuestra guía operativa del Reglamento de IA de la UE sitúa ambos instrumentos en el mapa.
Qué cambió entre las ediciones de 2025 y 2026
La edición de 2026 del International AI Safety Report describe otro motor, otro perfil de capacidades y otro problema de medición. El motor. El cómputo de entrenamiento crece unas 5 veces al año y la eficiencia algorítmica entre 2 y 6 veces, pero las ganancias recientes vienen del posentrenamiento y del escalado en tiempo de inferencia: medalla de oro en la Olimpiada Internacional de Matemáticas en julio de 2025; más del 60 % en SWE-bench Verified; alrededor del 26 % en Humanity’s Last Exam; y tareas de más de 2 horas completadas con un 50 % de fiabilidad frente a unos 18 minutos un año antes, un horizonte que se duplica cada siete meses. El perfil. Las capacidades son «desiguales» (jagged): más del 80 % en preguntas científicas de posgrado, pero fallos al contar objetos, razonar sobre el espacio o recuperarse de errores simples; menos del 40 % en tareas de atención al cliente, el 30 % en oficina y el 12 % en tareas abiertas en la web. Para la supervisión humana es el hallazgo clave: brillantez en lo difícil, disparate en lo trivial. El problema de medición. Las pruebas previas al despliegue a menudo no predicen el rendimiento real, y los modelos reconocen cuándo se les evalúa y explotan las lagunas de la prueba; la primera actualización clave lo llama conciencia de evaluación y advierte de que la evidencia es sobre todo de laboratorio. La industria se movió en paralelo: doce empresas publicaron o actualizaron Frontier AI Safety Frameworks en 2025, más del doble; varios desarrolladores reforzaron salvaguardias al no poder descartar una ayuda biológica significativa a novatos (ASL-3 de Claude Opus 4, «capacidad alta» de GPT-5, mitigaciones de Gemini 2.5 Deep Think); y los mejores modelos de pesos abiertos van menos de un año por detrás de los modelos de frontera cerrados.
Las tres categorías de riesgo, leídas como un registro de riesgos
Leídas como registro y no como relato, las tres categorías del informe aportan fuentes de riesgo trasladables al expediente, con el International AI Safety Report como cita.
Riesgos de uso indebido
En lo cibernético, un agente de IA identificó el 77 % de las vulnerabilidades de software real en una gran competición, entre el 5 % mejor de más de 400 equipos casi todos humanos, y el NCSC británico estima con una confianza del 95 al 100 % que la IA hará la ciberofensiva más eficaz de aquí a 2027. El contenido delictivo es el caso mejor documentado: el 96 % de los vídeos de ultrasuplantación (deepfakes) en línea son pornográficos y 19 de las 20 aplicaciones de «desnudo» más populares se dirigen a mujeres.
Riesgos de fallos de funcionamiento
La novedad es el acento en los agentes: cuando un sistema actúa en lugar de responder hay menos ocasiones de intervenir, y los errores se propagan entre agentes (encuesta a 67 agentes desplegados), lo que justifica controles de seguridad para la IA agéntica que asumen el error. La pérdida de control se trata con sobriedad: modelos instruidos para lograr un objetivo «a toda costa» desactivaron en laboratorio mecanismos de supervisión simulados, y los investigadores discrepan sobre su probabilidad real.
Riesgos sistémicos
Autonomía humana: la tasa de detección de los médicos en la colonoscopia era unos 6 puntos porcentuales más baja tras meses de procedimientos asistidos, y en un experimento con 2.784 participantes las personas corregían menos los errores de la IA cuando corregirlos costaba esfuerzo: el sesgo de automatización del artículo 14. En el empleo, al menos 700 millones de personas usan la IA de uso general cada semana; los estudios de 2025 en Estados Unidos y Dinamarca no detectan un efecto agregado, pero el empleo junior en las ocupaciones más expuestas cae desde finales de 2022. El Reglamento da ejemplos de riesgo sistémico en el considerando 110; el apéndice 1 del código de buenas prácticas los reduce a cuatro riesgos «seleccionados». La tabla cruza la evidencia del International AI Safety Report con ambas listas. <table header-row=»true»> <tr> <td>Hallazgo de 2026</td> <td>Considerando 110</td> <td>Apéndice 1 del código</td> </tr> <tr> <td>Virología mejor que el 94 % de los expertos; salvaguardias biológicas en 2025</td> <td>Riesgos químicos, biológicos, radiológicos y nucleares</td> <td>Riesgos QBRN (seleccionado)</td> </tr> <tr> <td>Supervisión simulada desactivada; conciencia de evaluación</td> <td>Control no deseado frente a la intención humana; autorreplicación</td> <td>Pérdida de control (seleccionado)</td> </tr> <tr> <td>Un agente encuentra el 77 % de las vulnerabilidades; previsión del NCSC para 2027</td> <td>Capacidades cibernéticas ofensivas</td> <td>Ciberofensiva (seleccionado)</td> </tr> <tr> <td>Persuasión creciente con cómputo e interacción; deepfakes a gran escala</td> <td>Contenidos ilícitos, falsos o discriminatorios; efectos en los procesos democráticos</td> <td>Manipulación perjudicial (seleccionado)</td> </tr> </table> La correspondencia es nuestra, no de la Comisión; el método, en nuestra guía sobre el riesgo de la IA.
El International AI Safety Report y el artículo 55: su lugar en el expediente del proveedor
Para un proveedor de modelos de IA de uso general con riesgo sistémico, el artículo 55, apartado 1, impone cuatro deberes: a) evaluar el modelo con protocolos normalizados que reflejen el estado de la técnica, con pruebas adversarias documentadas; b) evaluar y mitigar los riesgos sistémicos a escala de la Unión, incluidas sus fuentes; c) vigilar, documentar y comunicar sin demora indebida los incidentes graves a la Oficina de IA; d) garantizar la ciberseguridad. El perímetro lo marca el artículo 51: capacidades de gran impacto, presumidas por encima de 10\^25 operaciones de coma flotante, o designación de la Comisión. Fechas: obligaciones desde el 2 de agosto de 2025; modelos anteriores, hasta el 2 de agosto de 2027; poderes de ejecución de la Oficina de IA y multas del artículo 101 (hasta 15 millones de euros o el 3 % del volumen de negocio mundial) desde el 2 de agosto de 2026. El Ómnibus Digital (Reglamento (UE) 2026/1744, en vigor el 27 de julio de 2026) aplazó el anexo III al 2 de diciembre de 2027 y no tocó el capítulo de los modelos de uso general. El código de buenas prácticas para la IA de uso general, del 10 de julio de 2025, tiene 22 firmantes, xAI solo en el capítulo de seguridad y protección, con diez compromisos, del Marco de Seguridad y Protección a la notificación de incidentes graves. Según el resumen de BCLP, la medida 9.3 exige un informe inicial en 2 días por interrupción de una infraestructura crítica, 5 por violación grave de ciberseguridad (incluida la exfiltración de pesos), 10 por un fallecimiento y 15 por otros daños graves, informes intermedios cada cuatro semanas y uno final a los 60 días de la resolución. ¿Dónde entra el International AI Safety Report? En la identificación de riesgos sistémicos, en la prueba del «estado de la técnica» de la letra a) (conciencia de evaluación, conciencia situacional, defensa en profundidad) y en las fuentes de riesgo, capacidades y propensiones en palabras del código. A la misma sección pertenece la segunda actualización clave: la inyección de instrucciones (prompt injection) sigue teniendo éxito la mitad de las veces con diez intentos; 250 documentos maliciosos bastan para envenenar el entrenamiento; el desaprendizaje se revierte con menos de 100 ejemplos de ajuste fino; y el compromiso peor cumplido fue la seguridad de los pesos. No evalúa su modelo: no sustituye las pruebas adversarias del artículo 55, la notificación de incidentes de IA ni la model card. Y el artículo 90, aplicable desde el 2 de agosto de 2026, permite al grupo de expertos científicos independientes alertar a la Oficina de IA ante «un riesgo concreto identificable a escala de la Unión»; si su expediente discrepa del International AI Safety Report, que diga por qué.
Qué significa para los responsables del despliegue y los proveedores sin modelos de frontera
Quien no entrena modelos de frontera saca del International AI Safety Report cinco usos. Supervisión humana. Los hallazgos sobre sesgo de automatización demuestran que la supervisión se degrada con el uso. El artículo 14 exige medidas contra ese sesgo; el artículo 26, la supervisión del responsable del despliegue. Identificación de riesgos. El artículo 9 pide identificar los riesgos razonablemente previsibles de un sistema de IA de alto riesgo; la ISO/IEC 23894 pide fuentes de riesgo; el NIST AI 600-1 enumera doce riesgos de la IA generativa. El informe da proporcionalidad a la evaluación de impacto. Alfabetización. El artículo 4 la exige desde el 2 de febrero de 2025; el Resumen Ejecutivo de 3 páginas, en seis lenguas, es material de formación listo, y las capacidades desiguales son la lección que todo usuario necesita (véase alfabetización en IA). Procedencia. Si las marcas de agua «pueden eliminarse, falsificarse o degradarse», el marcado es un control, no una prueba; el artículo 50 lo sigue exigiendo y su periodo transitorio termina el 2 de diciembre de 2026: combine marcado, información y detección y cite el informe. Terceros. Los modelos de pesos abiertos no pueden retirarse y sus salvaguardias se eliminan con facilidad: la diligencia debida sobre proveedores debe preguntar qué salvaguardias sobreviven al ajuste fino y quién vigila la versión desplegada. Gobernanza. Su comité de gobernanza de la IA debe dejar en acta qué edición utilizó y cuándo volverá a mirarla; «el informe Bengio», sin fecha, no es evidencia. En España, ese expediente acabará ante la AESIA (Agencia Española de Supervisión de la Inteligencia Artificial, Real Decreto 729/2023, A Coruña) o ante la AEPD si hay datos personales.
Seis hallazgos del informe que conviene trasladar a sus controles
El International AI Safety Report no prescribe nada, pero seis hallazgos se traducen en un control y en su artefacto de evidencia. <table header-row=»true»> <tr> <td>Hallazgo de 2026</td> <td>Control</td> <td>Artefacto de evidencia</td> </tr> <tr> <td>Sesgo de automatización y pérdida de competencias</td> <td>Métricas de supervisión, comprobaciones sin asistencia, rotación de revisores</td> <td>Tasas de anulación, registros de escalado, línea base</td> </tr> <tr> <td>Errores propagados entre agentes; identidad de agentes inmadura</td> <td>Inventario de agentes con alcances, interruptor de parada, puertas de aprobación</td> <td>Inventario, registros de ejecución, parada probada</td> </tr> <tr> <td>Pruebas previas que no predicen el rendimiento real</td> <td>Vigilancia poscomercialización con métricas de producción y revisión de la deriva</td> <td>Plan de vigilancia, revisiones fechadas, registro de desviaciones</td> </tr> <tr> <td>Inyección de instrucciones: éxito la mitad de las veces con diez intentos</td> <td>Defensa en profundidad: filtros, mínimo privilegio, aprobación humana de las acciones de agentes</td> <td>Informes de red teaming, filtros, registros de aprobación</td> </tr> <tr> <td>250 documentos maliciosos bastan para envenenar el entrenamiento</td> <td>Procedencia de los datos y hashes de los conjuntos en la lista de materiales</td> <td>Registros de linaje, hashes, declaraciones del proveedor</td> </tr> <tr> <td>Marcas de agua y señales de procedencia eliminables o falsificables</td> <td>Artículo 50 por capas: marcado, información al usuario y detección</td> <td>Pruebas de marcado, textos, procedimiento de detección</td> </tr> </table> La fila de los agentes exige un registro de sistemas de IA con herramientas y alcances por agente. La de la deriva remite a las revisiones de deriva; la del envenenamiento, al inventario de IA; los agentes de IA autónomos tienen guía propia.
El dilema de la evidencia y cómo documentar una decisión bajo él
Ni el Reglamento ni la ISO/IEC 42001 piden una decisión perfecta, sino documentada. El informe describe la situación en que se toma y la llama «dilema de la evidencia»: actuar con pruebas escasas puede consolidar medidas ineficaces, y esperar datos concluyentes puede dejar a la sociedad expuesta, con cuatro retos detrás: lagunas científicas, asimetrías de información, fallos de mercado y diseño institucional. Para sobrevivir a una auditoría, el registro lleva siete elementos: responsable y fecha; la pregunta; la edición y la sección del International AI Safety Report en que se apoyó, con su fecha; la incertidumbre reconocida; el control elegido y por qué es proporcionado; y el disparador de revisión (nueva edición, actualización clave, directriz de la Comisión, alerta cualificada del artículo 90, incidente). Los compromisos «si-entonces» de los marcos de frontera sirven de plantilla para esa cláusula. Así escrita, una decisión con evidencia incompleta es defendible: eso es el apetito de riesgo en la práctica y la rendición de cuentas en IA sobre el papel.
Límites del International AI Safety Report como evidencia
Todo expediente que cite el International AI Safety Report debería reconocer cuatro límites. Sus cifras envejecen en meses (de ahí las actualizaciones clave). Lo mismo vale para los marcos nuevos de 2025 (código de la UE, marco chino 2.0, marco de Hiroshima del G7 de nuestra guía de los principios de la OCDE): su eficacia aún no se conoce. Gran parte de su evidencia es de laboratorio, y el propio texto repite que los datos de prevalencia real son limitados y la eficacia de las salvaguardias, incierta. Un hallazgo de capacidad no es un hallazgo de daño. Su respaldo es amplio, no universal: treinta países y organizaciones, entre ellos el Reino Unido, China y la Unión Europea, pero no Estados Unidos. Citable sin reservas en Bruselas, Madrid o Londres; con contexto en Washington. Y no recomienda nada: la obligación nace de la ley, la norma o el código, y el International AI Safety Report tampoco sustituye la evaluación del modelo del artículo 55 ni la evaluación de riesgos de cada sistema del artículo 9. En una auditoría de IA, es la referencia, no el expediente.
Preguntas frecuentes
¿Qué es el International AI Safety Report? Una revisión independiente de las capacidades y los riesgos de la IA de uso general, encargada en la cumbre de Bletchley Park de 2023 y presidida por Yoshua Bengio. La edición de 2026, del 3 de febrero de 2026, la escribieron más de 100 expertos con el respaldo de más de 30 países y organizaciones; existe como informe completo, Resumen Ampliado de 20 páginas y Resumen Ejecutivo de 3 páginas en seis lenguas. ¿Quién escribe el International AI Safety Report y es independiente? Un grupo de expertos independientes dirigido por su presidente, con plena discreción sobre el contenido; un panel consultivo nominado por los países que lo respaldan, la UE, la ONU y la OCDE revisa los borradores. El texto afirma que no representa a ningún gobierno; la secretaría corre a cargo del Departamento de Ciencia, Innovación y Tecnología del Reino Unido (referencia DSIT 2026/001). ¿Es jurídicamente vinculante el International AI Safety Report? No. No crea obligaciones ni cita cláusulas. El Reglamento de IA pide a los proveedores de modelos de IA de uso general con riesgo sistémico evaluar con métodos del estado de la técnica e identificar los riesgos sistémicos y sus fuentes, y el informe es la declaración pública más autorizada de ese estado de la técnica. La obligación nace del artículo 55, del código o de la normativa sectorial. ¿Respaldó Estados Unidos el informe de 2026? No. Según TIME, Estados Unidos aportó comentarios a los borradores y declinó firmar la versión final, a diferencia de 2025, cuando el Departamento de Comercio figuraba en el informe; el Reino Unido, China y la Unión Europea sí respaldaron la edición de 2026. El informe no depende del aval de ningún gobierno, pero un expediente que lo cite en un contexto estadounidense debería dejar constancia de esa posición. ¿Cómo se relaciona el informe con el Reglamento de IA de la UE y el código de buenas prácticas? El artículo 55 exige a los proveedores con riesgo sistémico evaluar con protocolos del estado de la técnica, evaluar y mitigar los riesgos sistémicos y sus fuentes, y notificar los incidentes graves. El código de buenas prácticas, firmado por 22 empresas, nombra cuatro riesgos seleccionados: QBRN, pérdida de control, ciberofensiva y manipulación perjudicial. Las tres categorías del International AI Safety Report encajan en esa lista. ¿Con qué frecuencia se actualiza el informe y qué es el dilema de la evidencia? Una edición completa al año desde enero de 2025, con actualizaciones clave entre medias: dos en 2025, el 15 de octubre y el 25 de noviembre. El dilema de la evidencia es la posición del responsable político: actuar con pruebas escasas puede consolidar medidas ineficaces, y esperar datos concluyentes puede dejar a la sociedad expuesta. Para una empresa: documentar la decisión con edición y disparador de revisión.
Conclusión
Léalo como un barómetro, no como un manual. El International AI Safety Report 2026 no le dirá qué hacer; dirá a cada supervisor y auditor qué decía la ciencia en febrero de 2026, y explicar la distancia entre su expediente y el consenso es tarea suya. Para el proveedor de un modelo con riesgo sistémico es la línea de referencia del artículo 55 y del código; para el responsable del despliegue, un catálogo de fuentes de riesgo y un motivo para verificar cada salvaguardia del proveedor. Cite la edición, feche la decisión, nombre el disparador. AI Sigil conserva cada sistema de IA como un registro con sus riesgos, sus controles y sus evidencias, de modo que, cuando la próxima edición mueva la línea de base, vea en un solo lugar qué decisiones toca.