A.I. Adoption Without Literacy Is a Governance Risk
A medida que las empresas se apresuran a incorporar la inteligencia artificial (IA) en sus operaciones, el debate sobre la gobernanza se ha estancado en un lugar equivocado. Los reguladores deliberan sobre mandatos, los responsables de políticas debaten sobre restricciones y los desarrolladores discuten sobre controles técnicos. Estas preguntas son importantes, pero pasan por alto el motor más inmediato de la gobernanza responsable de la IA: las personas que utilizan estos sistemas todos los días. Sin una inversión en la capacidad de la fuerza laboral, las organizaciones corren el riesgo de incrustar daños en sus operaciones y de encontrarse responsables cuando las cosas salen mal.
La adopción de IA no espera a que la gobernanza se ponga al día
Las empresas están integrando herramientas de IA donde pueden para capturar eficiencia y ganancias de ingresos, con o sin marcos de supervisión en su lugar. La reciente noticia del Reino Unido ilustra esta tensión entre gobernanza e innovación. En la misma semana en que el Comité del Tesoro advirtió que la adopción ad hoc de la IA en el sector financiero podía causar «daños graves» a la sociedad y a la economía, un grupo bancario anunció que la adopción de IA aumentó sus ingresos en £50 millones.
Los riesgos de gobernanza de implementar IA sin alfabetización
La consecuencia más predecible de la adopción de IA mal gobernada es lo que los profesionales llaman «IA en la sombra». Sin formación formal, los empleados recurren a herramientas de consumo no aprobadas para completar tareas profesionales, a menudo sin divulgación. En el Reino Unido, el 81 por ciento de los usuarios de IA no divulgan su uso a los gerentes. Los datos corporativos sensibles pueden ingresarse en modelos públicos que retienen o reutilizan entradas para entrenamiento posterior, creando nuevos riesgos regulatorios y de reputación.
El problema se agrava cuando los empleados malinterpretan cómo funciona realmente la IA. El personal puede tratar la IA como un motor de búsqueda basado en hechos en lugar de un motor de razonamiento basado en patrones, fallando en evaluar críticamente la precisión de sus salidas. Esto ha llevado a casos ampliamente reportados de abogados sancionados por presentar «alucinaciones» generadas por IA en documentos judiciales. Cuando los usuarios no pueden evaluar efectivamente las salidas de la IA, es su empleador quien asume la responsabilidad, socavando la confianza con los clientes y reguladores.
El sesgo presenta otra frontera de gobernanza. Los sistemas de IA heredan patrones de sus datos de entrenamiento. Si los empleados no reconocen las salidas discriminatorias, corren el riesgo de incrustar sesgos sistémicos en las decisiones operativas. Desde 2021, este problema ha sido destacado en varios contextos, creando riesgos éticos, legales y de reputación significativos.
Aun cuando no se materialicen daños, la implementación poco calificada limita el retorno de la inversión. Las implementaciones tecnológicas no son sinónimo de transformación digital. Sin flujos de trabajo rediseñados y empleados capacitados, la IA produce ganancias de productividad fragmentadas en lugar de un impacto generalizado en la empresa.
Construyendo gobernanza desde la base
En Europa, la dimensión de la fuerza laboral en la gobernanza ya se reconoce. La Ley de IA de la UE incorpora la alfabetización en IA como un requisito legal para el personal que interactúa con sistemas de IA. En ausencia de una regulación equivalente en otros lugares, las empresas deben liderar este esfuerzo por sí mismas. Un enfoque creíble desde abajo se basa en tres fundamentos interconectados.
El primero es la alfabetización en IA, diferenciada por rol. Para los ejecutivos, la alfabetización significa saber qué preguntas hacer: ¿Cómo estamos monitoreando el sesgo? ¿Quién es responsable del rendimiento del modelo? Para los equipos técnicos, la alfabetización implica gobernanza responsable de datos, validación de modelos y monitoreo del rendimiento. Para los usuarios finales en otros roles, implica entender herramientas aprobadas, verificar salidas y aplicar juicio humano.
El segundo fundamento son las políticas y procedimientos actualizados. Políticas claras de uso aceptable reducen la probabilidad de IA en la sombra, previenen la dependencia excesiva de las salidas y aclaran la responsabilidad en las decisiones asistidas por IA.
El tercer pilar son estructuras de responsabilidad claras a lo largo del ciclo de vida de la IA. Esto puede incluir comités de gobernanza de IA interfuncionales y supervisión de riesgos a nivel de junta. Lo que importa es que la responsabilidad sea clara y que la gobernanza esté integrada en el desarrollo de productos, la adquisición y la gestión de riesgos.
Governanza responsable de IA como inversión
Los debates sobre la gobernanza de la IA continuarán a nivel regulador. Los estándares evolucionarán y los paisajes de cumplimiento cambiarán. Muchos de estos factores están fuera del control de una sola empresa. Sin embargo, la capacidad de la fuerza laboral no lo está. Reenfocar la gobernanza de la IA en torno a la inversión en empleados, políticas actualizadas y responsabilidad clara devuelve la agencia a los líderes empresariales.
Las organizaciones que se tomen esto en serio estarán mejor posicionadas para mantener la confianza con los clientes, reguladores y el público a medida que crece el escrutinio sobre la adopción de IA.
