Lo esencial
- El riesgo IA es la probabilidad y la gravedad de un daño que un sistema de inteligencia artificial puede causar a lo largo de su ciclo de vida, desde resultados sesgados y fugas de datos hasta sanciones regulatorias y pérdida de confianza.
- Dos lecturas dominan el debate: el riesgo social o existencial, estudiado por entidades como el MIT AI Risk Repository, y el riesgo operativo de la empresa, del que un proveedor o un responsable del despliegue responde de verdad y debe gobernar.
- Las categorías de trabajo son sesgo, privacidad, seguridad, fiabilidad y alucinación, transparencia, cumplimiento jurídico, reputación, riesgo operativo y de terceros, e impacto ambiental.
- Tres marcos de referencia traducen el riesgo IA en obligaciones: los niveles de riesgo del Reglamento de IA, el NIST AI Risk Management Framework y la ISO/IEC 42001.
- Gobernar el riesgo IA es un modelo operativo, no un documento: identificar, clasificar, mitigar, evidenciar y revisar, cada paso con un responsable designado y una cadencia fija.
Qué significa realmente el riesgo IA
El riesgo IA es la probabilidad y la gravedad de un daño que un sistema de inteligencia artificial puede provocar a lo largo de todo su ciclo de vida, desde el diseño y la recogida de datos hasta el entrenamiento, la puesta en servicio y la retirada. El daño puede recaer sobre una persona (un solicitante de crédito rechazado), sobre una organización (una multa) o sobre la sociedad en su conjunto (una desinformación a gran escala). Lo que distingue al riesgo IA del riesgo del software tradicional reside en tres rasgos: el sistema infiere por sí mismo sus salidas, se adapta tras el despliegue y a menudo no puede explicar cómo llegó a una decisión. Dos lecturas estructuran la mayor parte de lo que se publica sobre el tema, y confundirlas sigue siendo la primera razón por la que un proceso de gobernanza se estanca. La primera es la lectura social o existencial: el estudio de los daños catastróficos y de largo plazo, impulsado por grupos de investigación como el Center for AI Safety o la MIT AI Risk Initiative. La segunda es la lectura operativa de la empresa: el riesgo concreto e inmediato del que una organización que opera un sistema de IA debe responder hoy, por ejemplo un modelo de selección de personal sesgado o un asistente conversacional que deja escapar datos de clientes. Ambas lecturas son legítimas, pero responden a preguntas distintas. Un responsable de cumplimiento no puede actuar sobre la « superinteligencia » como actúa sobre « nuestro modelo de scoring crediticio no se ha probado frente al impacto discriminatorio ». Esta guía se centra en la lectura empresarial, porque ahí residen las obligaciones, los controles y las pruebas, al tiempo que toma prestado el rigor de la comunidad investigadora para nombrar los riesgos con precisión. Para construir el programa más amplio sobre esta base, conviene partir de la gobernanza de la IA y tratar el riesgo IA como su núcleo medible.
Las principales categorías de riesgo IA
No existe una única lista oficial, pero las taxonomías solventes convergen. El MIT AI Risk Repository, una metarrevisión que extrajo 1.725 riesgos distintos de 74 marcos existentes, los reparte en siete dominios: discriminación y toxicidad, privacidad y seguridad, desinformación, actores malintencionados y uso indebido, interacción persona-ordenador, daños socioeconómicos y ambientales, y por último seguridad, fallos y limitaciones de los sistemas de IA (airisk.mit.edu). Un libro blanco jurídico muy citado reduce el cuadro operativo a cuatro categorías no jurídicas: riesgos éticos y sociales, operativos, reputacionales, y de seguridad y privacidad. El conjunto de trabajo siguiente fusiona ambas perspectivas.
Sesgo y discriminación
Los sistemas de IA aprenden de datos históricos que a menudo ya encierran desigualdades existentes, por lo que pueden reproducir o amplificar la discriminación en la selección de personal, el crédito, los seguros y la actividad policial. Es la categoría más vigilada, porque resulta a la vez frecuente y jurídicamente impugnable. Consulte el sesgo algorítmico para conocer sus causas, ejemplos y los controles que lo reducen.
Privacidad y protección de datos
Una IA puede inferir atributos sensibles nunca recogidos de forma explícita, reidentificar a personas a partir de datos supuestamente anonimizados y memorizar para luego reproducir registros de entrenamiento. Estos comportamientos pueden vulnerar los principios de limitación de la finalidad y minimización de datos del RGPD, cuya aplicación en España supervisa la AEPD. Una evaluación de impacto sobre la protección de datos es el instrumento habitual para sacar a la luz y documentar esta exposición.
Seguridad
La IA introduce superficies de ataque que las pruebas de seguridad tradicionales pasan por alto: ejemplos adversarios que engañan a un modelo, envenenamiento de los datos de entrenamiento, inversión de modelo que extrae datos privados, e inyección de instrucciones contra los modelos de lenguaje. La base de conocimiento MITRE ATLAS cataloga estas técnicas y las vincula a controles defensivos, en línea con la labor de la AESIA sobre supervisión de sistemas de IA.
Fiabilidad y alucinación
Los modelos se degradan por la deriva de los datos, se comportan de forma imprevisible ante entradas alejadas de su conjunto de entrenamiento y, en el caso de los sistemas generativos, producen salidas seguras pero falsas. La alucinación es probablemente el riesgo operativo que define a la IA generativa, porque el fallo es fluido y, por tanto, difícil de detectar. Desarrollamos esta tesis en el mayor riesgo de la IA generativa.
Transparencia y explicabilidad
Muchos modelos de alto rendimiento son cajas negras cuya lógica interna resulta opaca incluso para quienes los construyen, lo que socava la rendición de cuentas e imposibilita toda impugnación. Los reguladores tratan cada vez más la explicabilidad como un requisito, no como un adorno; consulte la explicabilidad en la IA.
Jurídico, reputacional, operativo y ambiental
El riesgo jurídico abarca el incumplimiento del Reglamento de IA, del RGPD y de las normas sectoriales. El riesgo reputacional se propaga con mayor rapidez: un solo algoritmo sesgado o un asistente que alucina puede erosionar la confianza en toda una marca. El riesgo operativo y de terceros surge de la deriva no vigilada, las integraciones rotas y la dependencia de proveedores externos, lo que explica la peligrosidad de los sistemas no inventariados, es decir, la shadow AI. El riesgo ambiental, el coste en energía y agua del entrenamiento y la inferencia, cierra la lista.
Cómo se conecta el riesgo IA con la regulación y las normas
Una taxonomía solo es útil si se conecta con obligaciones. Tres marcos de referencia aseguran esa conexión, y un programa maduro los lee juntos en lugar de aislar uno solo. Nuestro cruce entre NIST, ISO 42001 y el Reglamento de IA muestra dónde se solapan.
Reglamento de IA: niveles de riesgo
El Reglamento de IA (Reglamento (UE) 2024/1689) se asienta en un enfoque basado en el riesgo y sitúa cada sistema en uno de cuatro niveles. Las prácticas de riesgo inaceptable, como la puntuación social y la mayoría de los usos de vigilancia biométrica en tiempo real, están prohibidas por el artículo 5. Los sistemas de alto riesgo, enumerados en el anexo III y referidos a ámbitos como el empleo, el scoring crediticio y las infraestructuras críticas, deben cumplir requisitos estrictos: gestión del riesgo, gobernanza de datos, supervisión humana, documentación técnica y evaluación de la conformidad. Los sistemas de riesgo limitado conllevan obligaciones de transparencia, como informar al usuario de que dialoga con una IA. Los sistemas de riesgo mínimo no tienen nuevas obligaciones. Las sanciones alcanzan los 35 millones de euros o el 7 por ciento de la facturación anual mundial (artificialintelligenceact.eu). Clasificar los propios sistemas en estos niveles es el primer paso; nuestro manual operativo del Reglamento de IA lo recorre paso a paso.
NIST AI RMF: cuatro funciones
El NIST estadounidense publica un marco voluntario de gestión de riesgos de la IA articulado en cuatro funciones: Govern, Map, Measure y Manage. La función Govern es transversal e instaura una cultura consciente del riesgo; Map contextualiza cada sistema y sus posibles impactos; Measure evalúa los riesgos de forma cuantitativa y cualitativa; Manage los prioriza y los trata. Las funciones son iterativas, no una lista de comprobación que se marca una sola vez (airc.nist.gov). Nuestra guía del NIST AI RMF desgrana cada función.
ISO/IEC 42001: un sistema de gestión certificable
La ISO/IEC 42001 es la primera norma certificable para un sistema de gestión de la inteligencia artificial. Exige un proceso de evaluación y tratamiento del riesgo específico de la IA (cláusulas 6.1.2 a 6.1.4) que abarca riesgos técnicos, éticos, sociales y organizativos a lo largo de todo el ciclo de vida, y ofrece 39 controles en el anexo A. Para cada riesgo por encima del umbral de aceptación, la organización elige un tratamiento (evitar, reducir, transferir o aceptar) y registra sus decisiones en una declaración de aplicabilidad. Lea ISO 42001 explicada para el cuadro completo.
La gestión del riesgo IA como modelo operativo
La mayoría de los artículos se detiene en la descripción de los riesgos. El valor reside en un ciclo repetible que convierte cada riesgo en un control, un responsable y una prueba. Cinco pasos hacen operativa, y no declamatoria, la gestión del riesgo IA. Este ciclo es la expresión específica para la IA de un cumplimiento en la gestión del riesgo más amplio.
- Identificar. No se gobierna lo que no se ve. Construya y mantenga un inventario de todos los sistemas de IA y después un registro de riesgos que anote, por sistema, qué podría salir mal, con qué probabilidad y con qué gravedad. Las herramientas no documentadas constituyen el mayor punto ciego, razón por la cual detectar la shadow AI es el paso cero.
- Clasificar. Asigne a cada sistema un nivel regulatorio (según las categorías del Reglamento de IA) y una puntuación de gravedad. La clasificación decide cuánto escrutinio merece un sistema; un filtro antispam de riesgo mínimo no debe consumir el mismo esfuerzo que un modelo de selección de personal de alto riesgo.
- Mitigar. Para cada riesgo por encima de su umbral de aceptación, elija un tratamiento y despliegue controles: pruebas de sesgo, restricción de accesos, supervisión humana, ejercicios de equipo rojo, validación de entradas y salidas. La ISO 42001 formula las cuatro opciones como evitar, reducir, transferir o aceptar.
- Evidenciar. Un control que no puede demostrarse no existe a ojos de un auditor. Conserve la documentación técnica, los registros de decisiones, las evaluaciones de impacto y los resultados de las pruebas. Es aquí donde un sistema auditable distingue un programa real de una carpeta de políticas, y donde una supervisión continua del cumplimiento mantiene las pruebas al día.
- Revisar. El riesgo no es estático. Vigile la deriva de los modelos, siga el rendimiento frente a umbrales y mantenga una cadencia de revisión fija. Cuando algo sale mal, la notificación de incidentes cierra el ciclo y alimenta el registro para la iteración siguiente.
¿Quién responde del riesgo IA?
El riesgo IA fracasa cuando pertenece a todos y, por tanto, a nadie. Los programas eficaces nombran a un responsable que rinde cuentas, a menudo un referente de IA o un director de gobernanza de la IA, que sigue la evolución normativa, impulsa las evaluaciones de riesgo y alinea los usos de la IA con los objetivos del negocio. En torno a ese responsable se organiza un modelo de tres líneas de defensa: el negocio asume el riesgo, una función de gobernanza o cumplimiento lo cuestiona, y la auditoría ofrece la garantía. Un comité transversal que reúne a las áreas jurídica, de datos, de seguridad y de operaciones dirime las disyuntivas. El Reglamento de IA añade a esta responsabilidad una dimensión jurídica, la distinción entre proveedor y responsable del despliegue. Los proveedores, que diseñan y ponen sistemas en el mercado, cargan con la mayoría de las obligaciones; los responsables del despliegue, que los utilizan, conservan deberes de supervisión humana y transparencia. Un responsable del despliegue que modifica de forma sustancial la finalidad de un sistema puede convertirse en proveedor y heredar la carga más pesada. Decidir quién aprueba cada decisión es en sí mismo un control; nuestra guía sobre supervisión humana en el bucle o sobre el bucle cubre los modelos de supervisión.
De la hoja de cálculo al registro de riesgos IA
Muchos equipos empiezan con una hoja de cálculo, y para un primer inventario resulta perfectamente válido. Deja de funcionar en cuanto los riesgos deben enlazar con controles, los controles con pruebas, y las pruebas mantenerse al día en decenas de sistemas y varios marcos a la vez. Un archivo estático no puede mostrar a un auditor que un control estaba activo el día en que se tomó una decisión, ni puede señalar un control que ha quedado obsoleto. Un registro de riesgos IA integrado en una plataforma de gobernanza cierra esa brecha: cada sistema porta su nivel, sus riesgos, los controles que los tratan, las pruebas que los demuestran y la fecha de revisión que los mantiene honestos. Lo relevante no es la herramienta, sino la propiedad que otorga, la capacidad de responder « muéstreme » en lugar de « confíe en mí ». Esa es toda la diferencia entre una plataforma de cumplimiento y el conjunto de herramientas puntuales que la rodea.
Preguntas frecuentes
¿Cuál es el mayor riesgo de la IA? No existe un único riesgo mayor; depende del sistema y de su contexto. Para la mayoría de las empresas que hoy adoptan la IA generativa, la alucinación (una salida segura, fluida, pero falsa) es el riesgo operativo más frecuente, porque es fácil de pasar por alto y difícil de corregir. Para los sistemas de decisión de alta relevancia, el sesgo y la ausencia de supervisión humana conllevan la mayor exposición jurídica y reputacional. ¿Cuáles son los cuatro tipos de riesgo IA? Una división operativa habitual distingue el riesgo ético y social, el operativo, el reputacional y el de seguridad y privacidad. Los reguladores añaden una dimensión jurídica o de cumplimiento. Las taxonomías de investigación como el MIT AI Risk Repository van más allá, con siete dominios, pero el modelo de cuatro categorías sigue siendo el punto de partida más práctico. ¿Qué es la gestión del riesgo IA? La gestión del riesgo IA es el proceso repetible de identificar, clasificar, mitigar, evidenciar y revisar los riesgos que un sistema de IA plantea a lo largo de su ciclo de vida. Se diferencia de la gestión del riesgo genérica en que debe abordar fallos específicos de los modelos, como la deriva, el sesgo y la alucinación, y está cada vez más moldeada por marcos como el NIST AI RMF y la ISO/IEC 42001. ¿Cómo clasifica el riesgo IA el Reglamento de IA? El Reglamento de IA emplea cuatro niveles: inaceptable (prohibido), alto riesgo (estrictamente regulado), riesgo limitado (obligaciones de transparencia) y riesgo mínimo (sin nuevas reglas). Sus obligaciones, y los controles que debe construir, se derivan directamente del nivel en que se sitúa un sistema. ¿Qué marco de riesgo IA deberíamos adoptar? Son complementarios, no competidores. Utilice el Reglamento de IA para establecer las obligaciones jurídicas, el NIST AI RMF para estructurar el proceso (Govern, Map, Measure, Manage) y la ISO/IEC 42001 para construir un sistema de gestión certificable con controles definidos. La mayoría de los programas maduros enlazan los tres con un único conjunto de controles internos. ¿El riesgo IA solo tiene que ver con amenazas existenciales? No. El debate sobre la existencia y la seguridad es real y lo estudian entidades de investigación, pero el riesgo del que una organización debe responder hoy es operativo: decisiones sesgadas, fugas de datos, ataques de seguridad, salidas poco fiables e incumplimiento. Son los riesgos que puede identificar, gobernar y demostrar desde ahora.
Conclusión
El riesgo IA no es una lista de titulares alarmantes; es una propiedad gobernable de cada sistema que usted construye o despliega. Las organizaciones que se mantienen por delante lo tratan como un modelo operativo: inventarían sus sistemas, clasifican cada uno por nivel regulatorio y gravedad, mitigan con controles reales, evidencian esos controles para que un auditor pueda verificarlos, y revisan según una cadencia fija. El Reglamento de IA, el NIST AI RMF y la ISO/IEC 42001 dan estructura a este ciclo, y un único registro de riesgos IA le da un hogar. Empiece por hacer visibles y responsables sus sistemas de IA, y el riesgo dejará de ser algo que le ocurre para convertirse en algo que usted gobierna.