Rompiendo la caja negra: abordando la agenda de gobernanza para una IA responsable
La inteligencia artificial (IA) se está convirtiendo rápidamente en una parte esencial de nuestras vidas diarias y a menudo de maneras sorprendentes. Desde la red vial en la que conducimos hasta la atención médica que recibimos, pasando por las noticias que leemos y la comida que pedimos, la IA está transformando el mundo en el que vivimos.
La IA como motor de cambio
La IA moldeará la próxima era de la estrategia corporativa, el crecimiento económico y la transformación del mercado. En el Reino Unido, el 75% de las empresas financieras encuestadas por el Banco de Inglaterra ya utilizaban IA el año pasado, y un 10% adicional planeaba implementarla en el futuro.
Sin embargo, con la adopción tan rápida y generalizada, la IA se está convirtiendo en un desafío central de gobernanza y sostenibilidad que presenta riesgos materiales para las empresas.
La importancia de la gobernanza de la IA
Si bien la IA ofrece eficiencia e innovación, también introduce sistemas que carecen de transparencia, lo que dificulta identificar la lógica de toma de decisiones. Estos modelos de IA, conocidos como “cajas negras”, plantean riesgos serios relacionados con el sesgo, la desinformación, la privacidad y la integridad operativa. Las empresas podrían enfrentar exposición legal, daños a su reputación y pérdida de confianza por parte de los grupos de interés.
A pesar de la escala de adopción, el Índice de IA 2024 de Stanford encontró que menos del 20% de las empresas públicas divulgaban detalles sobre sus estrategias de mitigación de riesgos relacionados con la IA, y solo el 10% informaba sobre evaluaciones de equidad o sesgo.
Esta falta de transparencia representa un punto ciego material tanto para inversores como para reguladores. Se hace cada vez más difícil para los inversores entender cómo se gobierna la IA, especialmente en sectores de alto impacto como la salud, las finanzas y el comercio minorista.
Un marco para la acción de los inversores
A medida que algunas organizaciones comienzan a reconocer el problema de gobernanza, se destaca que solo el 15% de las empresas del S&P 500 divulgaban algún tipo de supervisión de IA en sus declaraciones de poder, y aún menos, solo el 1.6%, proporcionaban divulgación explícita de responsabilidad a nivel de la junta o del comité.
Para abordar este problema, se propone un enfoque en tres partes:
- Integración de la gobernanza de IA en el análisis de inversión ESG: los inversores deben evaluar cómo las empresas divulgan el uso de IA, establecen salvaguardas internas y asignan supervisión a líderes ejecutivos o de la junta.
- Enfoque en la gestión diaria de la IA: esto incluye el compromiso sobre evaluaciones de sesgo y mecanismos de explicabilidad, asegurando que la supervisión humana esté integrada en los casos de uso de alto impacto.
- Establecimiento de expectativas claras: los inversores deben alinear sus prácticas de supervisión con estándares globales como los principios de IA de la OCDE y la Ley de IA de la UE.
La IA responsable: un momento crítico para el liderazgo de los inversores
Con horizontes de inversión a largo plazo e influencia sistémica, los fondos de pensiones están en una posición única para impulsar estándares de gobernanza más sólidos en toda la economía. Al fomentar una mejor gobernanza y divulgación, los fondos de pensiones pueden guiar cuidadosamente la adopción generalizada de la IA y contribuir a un comportamiento corporativo más transparente, equitativo y adecuado para el futuro.
Esto no significa limitar la innovación, sino asegurar que se guíe de manera que se alinee con las expectativas sociales y los estándares legales, y apoye la estabilidad económica a largo plazo, la inclusión y la responsabilidad.
