Transparencia, Explicabilidad e Interpretabilidad en Modelos de Subrogación de Crédito AI/ML
La transparencia es un concepto recurrente en el ámbito de la inteligencia artificial (IA) y se menciona frecuentemente como uno de los principios clave para abordar los riesgos y daños asociados con la IA. Sin embargo, su significado puede variar entre diferentes personas. Para algunos, puede referirse a la divulgación del uso de herramientas de toma de decisiones algorítmicas a los consumidores, mientras que para otros significa obtener visibilidad sobre cómo un modelo, en particular un modelo de aprendizaje automático (ML), llega a una decisión. Esta visibilidad es crucial para asegurar que los modelos de ML operen de manera justa y no discriminatoria.
La falta de un lenguaje común en torno a la transparencia y conceptos relacionados como la explicabilidad y la interpretabilidad presenta desafíos significativos. Para aclarar estos términos, se ha llevado a cabo un diálogo sobre su significado, especialmente en lo que respecta a los modelos de ML utilizados en la subrogación de crédito, destacando la importancia de la transparencia para el préstamo justo y la inclusión financiera.
El Potencial de la Tecnología en la Subrogación
Se considera que existe un gran potencial para cambiar la forma en que se cuantifica y evalúa el riesgo mediante el uso de la tecnología. Por ejemplo, las instituciones financieras pueden identificar dónde pueden estar surgiendo sesgos en sus procesos de subrogación. Tradicionalmente, la revisión manual de estos procesos era ineficiente, pero ahora, gracias a la tecnología, los prestamistas pueden detectar sesgos más rápidamente y corregir sus métodos de subrogación antes de afectar negativamente a sus clientes.
Una de las estrategias más prometedoras es el uso de ML para reevaluar los procesos de subrogación, y así ir más allá de los indicadores tradicionales de solvencia. Con la capacidad de ML para consumir datos rápidamente y extraer información relevante, los prestamistas están mejorando su comprensión del verdadero riesgo que presentan sus solicitantes.
La Importancia de la Transparencia
La transparencia es fundamental para el desarrollo de AI y se refiere a comprender cómo funciona un modelo de IA. Esto incluye saber cómo se toman las entradas, cómo se combinan y cómo se llega a una predicción. La falta de transparencia puede presentar problemas significativos, especialmente para las instituciones financieras, que deben explicar los resultados del modelo a sus reguladores y clientes.
Desafíos en Modelos de ML
Los modelos de ML suelen incorporar grandes conjuntos de datos, lo que puede generar complejidades que dificultan la comprensión de cómo se llega a una predicción. Esta complejidad puede resultar en lo que se denomina “cajas negras”, donde entender el proceso de toma de decisiones se vuelve complicado. Esto es problemático porque los datos que se utilizan en estos modelos a menudo contienen sesgos históricos, lo que puede afectar la calidad de las decisiones de crédito.
Explicabilidad vs. Interpretabilidad
La explicabilidad y la interpretabilidad son conceptos que a menudo se usan de manera intercambiable, pero que tienen diferencias clave. La interpretabilidad se refiere a modelos que son inherentemente comprensibles desde su construcción, mientras que la explicabilidad implica el uso de técnicas adicionales para aclarar modelos más complejos. Sin embargo, confiar en técnicas de explicabilidad post hoc puede no ser suficiente para cumplir con los requisitos regulatorios actuales.
Mejores Prácticas para la Interpretabilidad
Implementar un enfoque interpretable en el desarrollo de modelos de ML tiene beneficios significativos. Este enfoque permite que los prestamistas comprendan mejor los factores que impactan las decisiones crediticias, facilitando, a su vez, la creación de avisos de acción adversa más claros y útiles para los consumidores. La utilización de modelos interpretables no solo mejora la transparencia, sino que también permite realizar ajustes en los modelos para mitigar sesgos.
Conclusión
Es fundamental establecer estándares claros de transparencia y requisitos de interpretabilidad en el uso de modelos de ML en el sector financiero. A medida que la tecnología avanza, es imperativo que las instituciones financieras adopten prácticas que no solo cumplan con las regulaciones, sino que también promuevan la justicia y la inclusión en la toma de decisiones crediticias.
