Cómo Elegir las Herramientas Adecuadas para la Gobernanza de la IA
A medida que la adopción de la IA generativa se acelera, también lo hacen los riesgos asociados. Las herramientas de gobernanza de IA ofrecen una manera de gestionar estos riesgos, pero con un mercado abarrotado y en rápida evolución, elegir la solución correcta es todo menos sencillo. Para abordar este desafío, se ha diseñado un proceso de evaluación estructurado en colaboración con Tokio Marine Group.
Los Riesgos en las Aplicaciones de IA Generativa
La IA generativa avanza a un ritmo notable, y sus aplicaciones abarcan desde el servicio al cliente hasta el diseño de productos. Sin embargo, a medida que avanza la adopción, surgen nuevos riesgos que van más allá de los desafíos familiares de los sistemas de TI tradicionales:
- Riesgos legales: Las cuestiones de responsabilidad siguen sin resolverse. Si un sistema de IA falla o produce resultados dañinos, ¿quién es el responsable? Esta falta de claridad representa una preocupación importante para muchas empresas.
- Riesgos sociales: Cuando los modelos filtran información privada o refuerzan sesgos, el daño puede ir más allá del caso individual. Esto puede socavar la confianza pública y provocar crisis de reputación.
- Riesgos técnicos: A diferencia de los errores convencionales de software, las vulnerabilidades de la IA a menudo provienen de los datos en sí. Problemas como sesgos incrustados o «alucinaciones» pueden ser más difíciles de detectar y controlar.
Estos riesgos pueden llevar a pérdidas financieras, daños a la reputación y una disminución de la confianza de los interesados. Al mismo tiempo, iniciativas internacionales subrayan que la gobernanza de la IA se ha convertido en una expectativa fundamental.
Uso de Herramientas de Gobernanza de IA para Gestionar Riesgos
Una de las formas más efectivas de abordar los riesgos de la IA generativa es mediante el uso de herramientas de gobernanza de IA. Estas soluciones proporcionan supervisión y salvaguardias que ayudan a las organizaciones a detectar problemas antes de que escalen. Las herramientas de gobernanza de IA se dividen en dos categorías:
- Herramientas de guardia: Actúan en tiempo real, monitoreando continuamente las entradas y salidas de los sistemas de IA para bloquear indicaciones o respuestas dañinas.
- Herramientas de prueba: Evaluan los modelos bajo condiciones controladas, analizando seguridad y fiabilidad antes de que un sistema se implemente.
El Desafío de Seleccionar Herramientas de Gobernanza de IA
Elegir la herramienta adecuada no es un proceso simple. El mercado está lleno de soluciones que varían ampliamente en alcance y madurez, lo que dificulta las comparaciones justas. Además, la gobernanza de la IA es un campo emergente y muchas herramientas aún no están completamente desarrolladas. Esto crea dos desafíos importantes:
- Comparaciones funcionales con criterios consistentes: Las funciones centrales de las herramientas de gobernanza, como la detección de información dañina o la reducción de sesgos, a menudo se definen de manera abstracta.
- Evaluación funcional que refleje las últimas tendencias: Es esencial evaluar las herramientas no solo en función de sus capacidades actuales, sino también en cómo se alinean con los requisitos regulatorios y las prácticas de la industria más recientes.
La Colaboración con Tokio Marine Group
Para abordar estos desafíos, se diseñó un proceso estructurado para evaluar y seleccionar herramientas de gobernanza de IA en colaboración con Tokio Marine Holdings y Tokio Marine & Nichido Systems. Este enfoque incluyó:
- Establecimiento de perspectivas de evaluación: Se combinaron marcos de evaluación de organizaciones externas con guías de operadores de IA publicadas por el gobierno japonés, creando un conjunto de 30 criterios de evaluación.
- Creación de conjuntos de datos de evaluación: Se desarrolló un conjunto de datos de gran escala que permite una evaluación cuantitativa del rendimiento de cada herramienta.
- Comparación y evaluación de herramientas de más de 20 proveedores: Se realizó una evaluación de escritorio seguida de una evaluación funcional detallada en entornos de prueba.
El Camino a Futuro
A través de esta iniciativa conjunta, se busca identificar las soluciones más adecuadas para reducir los riesgos asociados con la IA generativa y crear condiciones para su adopción más amplia. Esto no solo mejorará la eficiencia operativa, sino que también fortalecerá la competitividad y servirá como catalizador para la innovación en la industria aseguradora.
