Gestión del riesgo de modelos para la IA y el machine learning

Lo esencial

• La gestión del riesgo de modelos (MRM) es la disciplina que identifica, mide y controla el riesgo de pérdida derivado de decisiones basadas en modelos incorrectos o mal utilizados.
• En Estados Unidos, las expectativas supervisoras cambiaron en 2026: SR 26-2 sustituye a SR 11-7, vigente durante quince años, y pasa de la revalidación anual obligatoria a una supervisión proporcional a la materialidad de los modelos.
• SR 26-2 deja de forma deliberada la IA generativa y la IA agentiva fuera de su ámbito, lo que abre una brecha de gobernanza que los marcos especializados deben cerrar.
• El machine learning y los modelos generativos contradicen varias hipótesis de la gestión clásica: derivan, resultan opacos y se comportan de forma no determinista.
• Un programa moderno ancla la gestión del riesgo de modelos a un inventario central y proyecta sus controles sobre el Reglamento de IA, la norma ISO/IEC 42001 y el NIST AI RMF.

¿Qué es la gestión del riesgo de modelos?

El riesgo de modelo es la posibilidad de consecuencias adversas, ya se trate de pérdidas financieras, decisiones inadecuadas, sanciones regulatorias o daños reputacionales, cuando una decisión se apoya en un modelo incorrecto, mal aplicado o mal entendido. La gestión del riesgo de modelos reúne las políticas, los roles y los controles con los que una organización mantiene ese riesgo dentro de un apetito definido, a lo largo de todo el ciclo de vida. La definición de referencia procede de la supervisión bancaria estadounidense. En abril de 2011, la Reserva Federal y la Oficina del Interventor de la Moneda publicaron SR 11-7 (OCC Bulletin 2011-12), que describe un modelo como un método cuantitativo que aplica una teoría estadística, económica, financiera o matemática para convertir datos de entrada en una estimación cuantitativa. Ese documento se convirtió en la referencia de la disciplina, mucho más allá del sector bancario. Dos ideas sostienen el conjunto. En primer lugar, todo modelo es una aproximación, de modo que el error es una propiedad del modelo y no un fallo. En segundo lugar, el error solo se convierte en riesgo cuando un modelo alimenta una decisión. Por ello, la gestión del riesgo de modelos concentra el esfuerzo donde una salida errónea causaría el mayor daño, razón por la cual la materialidad, es decir, lo que está en juego en un modelo, ocupa el centro de todo programa serio. Esa misma lógica sostiene la gestión del riesgo de la IA en su conjunto, de la que el riesgo de modelo es un componente.

Los tres pilares: desarrollo, validación, gobernanza

SR 11-7 organizó la disciplina en torno a tres pilares que aún la definen. El desarrollo y la implementación abarcan un diseño sólido, hipótesis documentadas, datos adecuados y pruebas antes de la puesta en producción. La validación es un cuestionamiento independiente y eficaz: un equipo separado de los desarrolladores comprueba la solidez conceptual, el seguimiento continuo y el análisis de resultados. La gobernanza envuelve ambos con políticas, roles, un inventario y una responsabilidad clara, para que la organización sepa qué modelos existen, quién responde por ellos y cómo se controlan. Estos pilares se solapan con el mapa más amplio del riesgo de la IA que los equipos de gobernanza siguen hoy.

De dónde procede el riesgo de modelo

El riesgo de modelo tiene cuatro fuentes recurrentes, cada una amplificada cuando el modelo es un sistema de machine learning. Los datos. Un modelo solo vale lo que valen los datos de los que aprende y con los que opera. Las lagunas de muestreo, los errores de etiquetado, las variables obsoletas y las poblaciones no representativas se propagan a las salidas. El aprendizaje automático amplía esta exposición, porque los modelos absorben los defectos de calidad a gran escala y los reproducen en cada predicción. El diseño y las hipótesis. Todo modelo codifica supuestos sobre el mundo. Cuando estos dejan de cumplirse, por ejemplo un modelo de scoring construido sobre comportamientos anteriores a una crisis, las salidas se degradan aunque el código permanezca intacto. La implementación. Los errores entran al codificar, integrar o desplegar: una tubería de variables desalineada, una diferencia de redondeo entre entrenamiento y producción, o un cambio de biblioteca que pasa inadvertido. Estos defectos escapan con facilidad, porque el modelo sigue devolviendo cifras verosímiles. El uso y el uso indebido. Las mayores pérdidas suelen provenir de emplear un modelo fuera de su finalidad, confiar en él más allá de su rango probado, o ignorar sus limitaciones. Un enunciado de alcance claro y unas instrucciones de uso son controles, no burocracia.

De SR 11-7 a SR 26-2: qué cambió en 2026

Durante quince años, SR 11-7 fue el punto fijo de la práctica. Eso cambió el 17 de abril de 2026, cuando la Reserva Federal, la OCC y la FDIC publicaron SR 26-2, una guía interinstitucional revisada sobre la gestión del riesgo de modelos que sustituye a SR 11-7. La dirección es proporcional al riesgo y escalable. Los supervisores esperan ahora que la profundidad de un programa se corresponda con el tamaño, la complejidad y el perfil de riesgo de la entidad, una precisión dirigida a las firmas más pequeñas y menos complejas. El cambio operativo más relevante consiste en que la revalidación anual obligatoria cede el paso a una supervisión ligada a la materialidad de los modelos, de modo que el esfuerzo de validación sigue a lo que está en juego y no al calendario. SR 26-2 también estrecha lo que cuenta como modelo, al excluir los cálculos aritméticos simples de las hojas de cálculo, los procesos deterministas basados en reglas y el software ordinario. La guía concierne sobre todo a los bancos con activos superiores a 30.000 millones de dólares, es explícitamente no vinculante y se acompaña del OCC Bulletin 2026-13. Para las entidades reguladas es la ocasión de abandonar las tareas dictadas por el calendario y reinvertir la capacidad de validación donde el riesgo de modelo es realmente elevado. Para el resto, la señal es clara: el control será proporcionado y basado en evidencias, no uniforme. Ese mismo enfoque orientado a la materialidad recorre los programas modernos de cumplimiento y gestión del riesgo.

La brecha de IA generativa que deja SR 26-2

Existe un límite deliberado. SR 26-2 mantiene la IA generativa y la IA agentiva fuera de su ámbito, con el argumento de que estas tecnologías son nuevas y avanzan deprisa. La decisión es defendible, pero deja a la categoría de modelos que más rápido crece sin una norma de MRM dedicada por parte de los reguladores bancarios estadounidenses. Quien despliega grandes modelos de lenguaje o agentes de IA autónomos no puede esperar a la próxima revisión. Estas organizaciones deben extender ya los principios de la disciplina a tales sistemas, con ayuda de los marcos de gobernanza concebidos precisamente para ello.

Por qué la IA y el machine learning rompen la MRM tradicional

La MRM tradicional se diseñó para modelos relativamente estables, inspeccionables y deterministas. El machine learning y los sistemas generativos vulneran las tres hipótesis, por lo que los equipos de validación no pueden reutilizar sin más el método antiguo. El no determinismo. Un modelo generativo puede devolver salidas distintas para la misma consulta. Los métodos de validación construidos en torno a un único resultado esperado no se trasladan a sistemas probabilísticos por diseño. La deriva. Los modelos de ML se degradan a medida que el mundo se aleja de su distribución de entrenamiento. Sin un seguimiento continuo, un modelo validado con limpieza en el lanzamiento se vuelve silenciosamente poco fiable. La opacidad. Los modelos complejos se resisten a la inspección, lo que complica la revisión de la solidez conceptual y choca con las expectativas regulatorias en materia de explicabilidad. Los revisores no siempre logran reconstruir por qué se produjo una salida. Sesgo y exposición adversaria. Los modelos entrenados con datos mal gobernados heredan los sesgos y los amplifican, y los sistemas generativos añaden la inyección de instrucciones y la elusión, que la validación tradicional nunca contempló. Fuga de datos y procedencia. Cuando los datos de entrenamiento están mal gobernados, información sensible puede reaparecer en las salidas, y la organización puede ser incapaz de demostrar con qué se entrenó un modelo. El caso más agudo sigue siendo el principal riesgo de la IA generativa, la alucinación, en la que una salida fluida y segura es sencillamente falsa.

La gestión del riesgo de modelos se encuentra con la gobernanza de la IA

La brecha que deja la supervisión bancaria la cierran tres instrumentos de gobernanza, que un programa maduro trata como un único conjunto de controles y no como tres auditorías separadas. El Reglamento de IA de la Unión Europea convierte en ley obligaciones cercanas a la disciplina para los sistemas de alto riesgo. Los proveedores deben operar un sistema de gestión de riesgos a lo largo del ciclo de vida (Artículo 9), aplicar una gobernanza de datos (Artículo 10), mantener documentación técnica (Anexo IV), garantizar la supervisión humana (Artículo 14) y cumplir los requisitos de exactitud, solidez y ciberseguridad (Artículo 15), antes de superar una evaluación de la conformidad (Artículo 43). La guía operativa del Reglamento de IA precisa cómo se reparten estos deberes. El NIST AI RMF ofrece una estructura voluntaria basada en cuatro funciones, Govern, Map, Measure y Manage, que se alinean de forma natural con el desarrollo, la validación y el seguimiento. Nuestra guía del NIST AI RMF recorre cada función. La norma ISO/IEC 42001 aporta un sistema de gestión de la IA certificable, dotado de controles en el Anexo A y de un ciclo de certificación de tres años, lo que da a la disciplina una sede auditable, como explica nuestra presentación de la ISO 42001. Incluso los supervisores sectoriales convergen hacia las mismas expectativas. La Guía del BCE sobre modelos internos, revisada en julio de 2025, añadió una sección dedicada al machine learning que aborda la explicabilidad, la relación entre rendimiento y complejidad, la validación y la gestión del riesgo de modelos para los bancos que emplean ML en sus modelos internos regulatorios.

Un solo conjunto de controles para todos los marcos

Los marcos se solapan más de lo que difieren. Un único ejercicio de validación puede satisfacer a la vez el cuestionamiento eficaz de SR 26-2, el Artículo 9 del Reglamento de IA, la función Measure del NIST y los controles de seguimiento de la ISO 42001, siempre que la evidencia se capture una sola vez y se vincule a cada requisito. Nuestra correspondencia entre NIST AI RMF, ISO 42001 y el Reglamento de IA muestra dónde se encuentran los requisitos, para evitar ejecutar tres veces el mismo control.

Cómo construir un programa moderno de gestión del riesgo de modelos

Un programa que abarca los modelos tradicionales y los de IA descansa sobre tres cimientos operativos.

El inventario de modelos como cimiento

No se gobierna lo que no se ha catalogado. Un inventario completo, que registre cada modelo con su propietario, finalidad, materialidad, fuentes de datos y estado de validación, es la condición previa de cualquier otro control. El problema más difícil no son los modelos que TI conoce, sino los que se le escapan: hojas de cálculo, cuadernos y herramientas de IA de terceros que componen la IA en la sombra. Un registro que descubre y rastrea estos sistemas transforma la disciplina, de un ejercicio periódico en una capacidad viva.

Las tres líneas de defensa aplicadas a los modelos de IA

Una MRM eficaz separa las funciones. La primera línea, propietarios y desarrolladores de modelos, construye y documenta. La segunda línea, validación independiente y función de riesgo, cuestiona y aprueba. La tercera línea, la auditoría interna, comprueba que el propio proceso funciona. Para los modelos de IA, esta estructura exige una profundidad transversal, porque un solo sistema generativo puede plantear a la vez cuestiones de gobernanza de datos, de seguridad y de ética.

Validación y seguimiento continuos

Dado que los modelos de ML derivan, la validación no puede ser una única puerta. Un programa moderno vigila de forma continua el rendimiento, la estabilidad de los datos y los resultados, y revalida cuando cambian la materialidad o el comportamiento en lugar de hacerlo en una fecha fija. Es exactamente el enfoque basado en la materialidad que SR 26-2 ahora fomenta, aplicado a sistemas que cambian más deprisa de lo que cualquier ciclo anual puede seguir. Construir este rastro de evidencias es también lo que hace que un sistema sea auditable.

La gestión del riesgo de modelos más allá de la banca

La disciplina nació en las finanzas, pero la obligación se extiende a todo sector que despliega una IA con consecuencias. Las aseguradoras modelan la tarificación y las reservas, la sanidad modela el triaje y el diagnóstico, el sector público modela la elegibilidad y el control, cada uno con repercusiones humanas reales. El Reglamento de IA no distingue si un modelo de alto riesgo reside en un banco o en un hospital: los deberes de gestión de riesgos, documentación y supervisión se aplican por igual. En consecuencia, la gestión del riesgo de modelos se convierte en un requisito general de la gobernanza de la IA en lugar de una especialidad bancaria, y las organizaciones que ya cuentan con una función madura parten con ventaja en el cumplimiento.

Preguntas frecuentes

¿Cuáles son los tres pilares de la gestión del riesgo de modelos? Los tres pilares proceden de SR 11-7: desarrollo e implementación, validación y gobernanza. El desarrollo cubre un diseño sólido, hipótesis documentadas y pruebas. La validación es el cuestionamiento independiente y eficaz de la solidez conceptual, el seguimiento y los resultados de un modelo. La gobernanza aporta las políticas, los roles, el inventario y la responsabilidad que sostienen el programa. SR 26-2 conserva esta lógica, pero hace que la intensidad de cada pilar sea proporcional a la materialidad. ¿Cuál es la diferencia entre SR 11-7 y SR 26-2? SR 11-7 (2011) fue la guía estadounidense fundacional sobre la gestión del riesgo de modelos. SR 26-2, publicada el 17 de abril de 2026 por la Reserva Federal, la OCC y la FDIC, la sustituye. Los cambios principales son el paso de la revalidación anual obligatoria a una supervisión ligada a la materialidad, una definición más estrecha de lo que cuenta como modelo y expectativas proporcionadas al tamaño de la entidad. SR 26-2 también excluye la IA generativa y agentiva de su ámbito formal. ¿Se aplica la gestión del riesgo de modelos a la IA generativa? Aún no por la vía de la supervisión bancaria estadounidense, y esa es precisamente la brecha que conviene vigilar. SR 26-2 deja fuera la IA generativa y agentiva. En la práctica, las organizaciones extienden los principios de la disciplina a estos sistemas mediante el Reglamento de IA, el NIST AI RMF y la ISO/IEC 42001, que abordan directamente los modelos de IA. Los sistemas generativos requieren además controles frente al no determinismo, la deriva, la opacidad y los ataques basados en instrucciones, que la validación tradicional nunca previó. ¿Cuál es un ejemplo de riesgo de modelo? Un ejemplo clásico es un modelo de scoring crediticio entrenado con datos de una economía estable que sigue aprobando préstamos mientras las condiciones empeoran, porque sus hipótesis ya no se cumplen. Un ejemplo moderno es un modelo generativo que produce una respuesta segura pero inventada, una alucinación, que un proceso posterior trata como un hecho. En ambos casos, la pérdida no nace de que el modelo exista, sino de una decisión tomada sobre una salida defectuosa. ¿Cómo se relaciona la gestión del riesgo de modelos con el Reglamento de IA? El Reglamento de IA convierte las prácticas centrales de la disciplina en obligaciones legales para los sistemas de alto riesgo. El Artículo 9 exige un sistema de gestión de riesgos a lo largo del ciclo de vida, el Artículo 10 una gobernanza de datos, el Anexo IV documentación técnica, el Artículo 14 supervisión humana y el Artículo 15 exactitud y solidez, todo confirmado por la evaluación de la conformidad del Artículo 43. Una organización con una función de MRM operativa ya realiza la mayoría de estas actividades y puede vincularlas al Reglamento en lugar de empezar de cero. ¿Quién es responsable de la gestión del riesgo de modelos? La responsabilidad se reparte en tres líneas de defensa. Los propietarios y desarrolladores de modelos construyen y documentan. Una función independiente de validación o de riesgo cuestiona y aprueba. La auditoría interna comprueba que el proceso global funciona. La alta dirección y el consejo asumen el apetito de riesgo y el propio marco. Para los modelos de IA, esta estructura suele requerir la aportación de las funciones de datos, seguridad y ética, porque un solo sistema puede afectar a las tres dimensiones.

Conclusión

La gestión del riesgo de modelos ha pasado de ser una especialidad bancaria estable al tejido conjuntivo entre la disciplina de los modelos cuantitativos y la gobernanza de la IA. SR 26-2 modernizó la expectativa estadounidense, pero al dejar fuera la IA generativa y agentiva dejó clara una cosa: ahora son los marcos que gobiernan los modelos de IA, el Reglamento de IA, la ISO/IEC 42001 y el NIST AI RMF, los que soportan el peso. Las organizaciones que salgan ganando los tratarán como un único conjunto de controles, anclado a un inventario vivo que ve cada modelo, incluidos los que nadie registró. Ahí es donde la gestión del riesgo de modelos y la gobernanza de la IA se convierten en un mismo programa. Descubra cómo un enfoque basado en un registro pone sus modelos bajo el control de la gobernanza de la IA.