Perspectivas sobre la IA Responsable a partir de la Encuesta Global de Madurez de Confianza en la IA
El crecimiento acelerado de la IA generativa y los modelos de lenguaje grande (LLMs) está impulsando su adopción en diversas funciones empresariales, con el objetivo de aumentar la productividad, la eficiencia y la innovación. Sin embargo, estos beneficios solo se pueden alcanzar si la IA se implementa de manera segura y responsable.
Las prácticas de IA responsable (RAI) son fundamentales para una estrategia más amplia de confianza en la IA, que busca generar confianza entre clientes, empleados y partes interesadas respecto al uso de la IA en las organizaciones. Al abordar aspectos críticos como la gobernanza de datos, la explicabilidad, la equidad, la privacidad, la seguridad y la transparencia, la RAI ayuda a las organizaciones a mitigar riesgos, construir confianza, asegurar la responsabilidad y maximizar el impacto de sus soluciones de IA.
Resultados de la Encuesta
Una reciente encuesta realizada por McKinsey a más de 750 líderes en 38 países proporciona información sobre el estado actual de la RAI en las empresas. Los encuestados provienen de industrias que van desde la tecnología hasta la salud y representan roles profesionales en áreas como legal, datos e IA, ingeniería, riesgo y finanzas.
Las respuestas fueron evaluadas utilizando el Modelo de Madurez de Confianza en la IA de McKinsey, un marco de RAI que abarca cuatro dimensiones: estrategia, gestión de riesgos, datos y tecnología, y modelo operativo, con un total de 21 subdimensiones. La madurez en RAI fue clasificada en cuatro niveles, desde el desarrollo de prácticas RAI fundamentales hasta la implementación de un programa integral y proactivo.
El promedio de puntuación de madurez en RAI para las organizaciones encuestadas fue de 2.0 en una escala de 0 a 4. El nivel 2 describió aproximadamente al 36% de los encuestados, lo que implica que, en promedio, las organizaciones aún están en el proceso de integrar prácticas de IA responsable, como indicadores clave de riesgo definidos, directrices de calidad de datos y planes de respuesta a incidentes.
Sector y Geografía
Los sectores de tecnología, medios y telecomunicaciones y los servicios financieros y profesionales están liderando el camino con una puntuación promedio de madurez en RAI de 2.1. A nivel geográfico, India destaca en madurez RAI, con un puntaje 23% por encima del promedio global, seguido por Estados Unidos, con 19% por encima del promedio.
Esto podría reflejar una mayor conciencia sobre los riesgos que enfrentan las empresas y, en el contexto más litigioso de Estados Unidos, la incertidumbre en torno a las posibles responsabilidades legales.
Inversiones en RAI
La mayoría de las organizaciones encuestadas, independientemente de su tamaño, afirmaron que planean invertir más de $1 millón en RAI en el próximo año, siendo muchas organizaciones más grandes las que planean invertir mucho más. Estas inversiones incluyen la contratación de profesionales en RAI, la construcción o adquisición de sistemas técnicos para cumplir con las prácticas de RAI y el compromiso con servicios legales o profesionales relacionados.
Existe una fuerte correlación positiva entre las empresas con puntuaciones de madurez en RAI más altas y niveles de inversión más significativos, lo que sugiere que una mayor inversión puede ayudar a avanzar en la madurez RAI.
Desafíos en la Implementación
A pesar de los avances, los obstáculos para implementar prácticas de RAI de clase mundial persisten. Al ser preguntados sobre las principales barreras, los encuestados identificaron las brechas de conocimiento y capacitación (51%) y la incertidumbre regulatoria (40%) como desafíos significativos. Estos hallazgos indican que las organizaciones aún carecen de claridad sobre cómo implementar las prácticas adecuadas para obtener los beneficios deseados.
No obstante, la falta de claridad no debe justificar un enfoque pasivo hacia la RAI. A medida que las empresas continúan adoptando la IA en sus funciones comerciales, será crítico construir nuevas capacidades de gestión y mitigación de riesgos junto con ambiciosos planes de IA para asegurar un uso seguro y confiable.
Las organizaciones que inviertan en confianza en la IA ahora se beneficiarán más tarde de una adopción más rápida y una mayor resiliencia ante riesgos, mientras se esfuerzan por capturar todo el potencial de la IA en sus negocios.
