La gobernanza de la IA proporciona límites para una innovación más rápida
Con la creciente adopción de la IA generativa en la región de Asia-Pacífico, algunas organizaciones, especialmente aquellas en industrias no reguladas, pueden mostrarse reacias a implementar marcos de gobernanza, temiendo que la burocracia frene la innovación.
Sin embargo, se argumenta que los límites claros son esenciales para la velocidad. Aunque la región lidera en el uso de la IA generativa, la erosión de la confianza del usuario en los resultados de la IA puede descarrilar las iniciativas de IA. Establecer barreras de gobernanza puede ayudar a cerrar esta brecha de confianza.
A menudo se encuentra la idea errónea de que la gobernanza ralentiza las iniciativas de IA. “Vemos exactamente lo contrario”, se afirma. “Las organizaciones en esta región que se mueven más rápido son las que ya han establecido una postura sólida de gobernanza de IA.”
La analogía de la seguridad vial
La gobernanza de la IA se compara con las barreras de seguridad en las carreteras. Así como las barreras permiten que los vehículos viajen de manera segura a mayores velocidades, la gobernanza proporciona la confianza necesaria para un desarrollo rápido.
“Para avanzar más rápido, necesitas entender cuáles son los límites”, se explica. “Las organizaciones que establecen esos parámetros desde el principio eliminan la vacilación en torno a la innovación, porque los equipos saben exactamente qué es lo que está permitido.”
El auge de la IA «sombra»
Uno de los impulsores para la gobernanza de la IA es el aumento de la IA «sombra», que ocurre cuando los trabajadores utilizan herramientas de IA que no están aprobadas para el trabajo. Se señala que un alto porcentaje de profesionales de seguridad ha observado que los empleados exponen datos corporativos a modelos de lenguaje grandes. Este comportamiento rara vez es malicioso; más bien, sucede porque no hay buenas herramientas internas disponibles.
Los empleados a menudo recurren a herramientas de IA externas porque carecen de acceso fluido a alternativas internas. La solución no es simplemente prohibir herramientas externas, sino proporcionar opciones internas integradas con los protocolos de gobernanza necesarios.
El papel de la gobernanza en la sala de juntas
Las discusiones sobre la gobernanza de la IA a menudo comienzan con los directores de datos, pero la conversación ha ascendido a las salas de juntas. Esto se debe no solo a los riesgos de seguridad, sino también a los costos en aumento asociados con experimentos de IA no regulados.
Se comparte un ejemplo donde una unidad de negocio acumuló costos inesperados. Un proyecto de IA comenzó con un presupuesto significativo, pero los costos mensuales alcanzaron cifras elevadas sin pruebas claras de retorno sobre la inversión. Como resultado, los equipos de finanzas y auditoría interna se involucraron más en la gobernanza de la IA para abordar tanto los riesgos técnicos como financieros.
Construcción de modelos internos y alternativas
Algunas empresas han comenzado a construir sus propios modelos de lenguaje grande para la gobernanza y otros fines, como la localización y el control del ciclo de vida del modelo de IA. Sin embargo, se desaconseja esta práctica, ya que el rápido ritmo del cambio tecnológico a menudo hace que los proyectos internos queden obsoletos antes de completarse.
Se aboga por un enfoque basado en plataformas donde se integren los requisitos de gobernanza, como los mandatados por la legislación de IA de la UE. Esto permite a las empresas incorporar los últimos modelos mientras permanecen en cumplimiento.
Conclusiones sobre la inversión en IA
Se estima que el gasto global en IA alcanzará cifras significativas en el futuro cercano, con un aumento considerable en las inversiones en plataformas de IA para ciencia de datos y aprendizaje automático. La adopción de la IA está fundamentalmente moldeada por la preparación tanto del capital humano como de los procesos organizacionales, no solo por la inversión financiera.
Las organizaciones con mayor madurez experiencial y autoconciencia están priorizando cada vez más los resultados probados sobre el potencial especulativo.
