Por qué GenAI se estanca sin un gobierno sólido
A medida que las empresas luchan por llevar los proyectos de Generative AI (GenAI) de la experimentación a la producción, muchas siguen atrapadas en la fase de piloto. Según investigaciones recientes, el 92% de las organizaciones están preocupadas por el hecho de que los pilotos de GenAI están avanzando sin abordar primero problemas fundamentales de datos. Aún más revelador es que el 67% no ha podido escalar ni la mitad de sus pilotos a producción. Esta brecha de producción se debe menos a la madurez tecnológica y más a la preparación de los datos subyacentes. El potencial de GenAI depende de la solidez del terreno en el que se basa, y hoy, para la mayoría de las organizaciones, ese terreno es, a lo sumo, inestable.
Por qué GenAI se queda atascado en piloto
Aunque las soluciones de GenAI son sin duda poderosas, son tan efectivas como los datos que las alimentan. El viejo adagio de «basura entra, basura sale» es más cierto hoy que nunca. Sin datos confiables, completos, legítimos y explicables, los modelos de GenAI a menudo producen resultados que son inexactos, sesgados o inadecuados para su propósito.
Desafortunadamente, las organizaciones se han apresurado a implementar casos de uso de bajo esfuerzo, como chatbots impulsados por IA que ofrecen respuestas personalizadas a partir de diferentes documentos internos. Aunque esto mejora la experiencia del cliente hasta cierto punto, no exige cambios profundos en la infraestructura de datos de una empresa. Sin embargo, para escalar GenAI de manera estratégica, ya sea en el sector salud, servicios financieros o automatización de la cadena de suministro, se requiere un nivel diferente de madurez de datos.
De hecho, el 56% de los directores de datos citan la confiabilidad de los datos como una barrera clave para el despliegue de IA. Otros problemas son los datos incompletos (53%), problemas de privacidad (50%) y mayores brechas en la gobernanza de IA (36%).
Sin gobernanza, no hay GenAI
Para llevar GenAI más allá de la etapa de piloto, las empresas deben tratar la gobernanza de datos como una imperativo estratégico para su negocio. Deben asegurarse de que los datos estén a la altura de la tarea de potenciar los modelos de IA, y para ello deben abordarse las siguientes preguntas:
- ¿Los datos utilizados para entrenar el modelo provienen de los sistemas correctos?
- ¿Hemos eliminado información personal identificable y seguido todas las regulaciones de datos y privacidad?
- ¿Somos transparentes y podemos probar la procedencia de los datos que utiliza el modelo?
- ¿Podemos documentar nuestros procesos de datos y estar listos para demostrar que los datos no tienen sesgo?
La gobernanza de datos también necesita estar integrada en la cultura de la organización. Para lograr esto, es necesario fomentar la alfabetización en IA en todos los equipos. La Ley de IA de la UE formaliza esta responsabilidad, exigiendo que tanto los proveedores como los usuarios de sistemas de IA hagan esfuerzos para garantizar que los empleados estén suficientemente alfabetizados en IA, asegurándose de que entiendan cómo funcionan estos sistemas y cómo usarlos de manera responsable. Sin embargo, la adopción efectiva de IA va más allá del conocimiento técnico; también requiere una base sólida en habilidades de datos, desde la comprensión de la gobernanza de datos hasta la formulación de preguntas analíticas. Tratar la alfabetización en IA de forma aislada de la alfabetización en datos sería miope, dado lo estrechamente entrelazadas que están.
En términos de gobernanza de datos, aún queda trabajo por hacer. Entre las empresas que desean aumentar sus inversiones en gestión de datos, el 47% coincide en que la falta de alfabetización en datos es una barrera importante. Esto destaca la necesidad de construir apoyo a nivel ejecutivo y desarrollar las habilidades adecuadas en toda la organización. Sin estos cimientos, incluso los modelos de LLM más poderosos tendrán dificultades para entregar resultados.
Desarrollando IA que debe ser responsable
En el actual entorno regulatorio, ya no es suficiente que la IA «simplemente funcione»; también necesita ser responsable y explicable. La Ley de IA de la UE y el propuesto Plan de Acción de IA del Reino Unido requieren transparencia en los casos de uso de IA de alto riesgo. Otros están siguiendo su ejemplo, y más de 1,000 proyectos de leyes relacionadas están en agenda en 69 países.
Este movimiento global hacia la responsabilidad es una respuesta directa a las crecientes demandas de los consumidores y partes interesadas por la equidad en los algoritmos. Por ejemplo, las organizaciones deben ser capaces de explicar las razones por las cuales un cliente fue rechazado para un préstamo o se le cobró una prima de seguro alta. Para poder hacerlo, necesitarían saber cómo tomó el modelo esa decisión, y eso, a su vez, depende de tener un rastro claro y auditable de los datos que se utilizaron para entrenarlo.
Sin explicabilidad, las empresas corren el riesgo de perder la confianza de los clientes, así como de enfrentar repercusiones financieras y legales. Como resultado, la trazabilidad de la procedencia de los datos y la justificación de los resultados no son un «extra», sino un requisito de cumplimiento.
A medida que GenAI se expande más allá de ser utilizado para herramientas simples hacia agentes completamente desarrollados que pueden tomar decisiones y actuar en consecuencia, las apuestas por una gobernanza de datos sólida aumentan aún más.
Pasos para construir IA confiable
Entonces, ¿cómo se ve lo bueno? Para escalar GenAI de manera responsable, las organizaciones deben adoptar una estrategia de datos única en tres pilares:
- Adaptar la IA al negocio: Catalogar sus datos en torno a los objetivos comerciales clave, asegurándose de que refleje el contexto, desafíos y oportunidades únicos específicos de su negocio.
- Establecer confianza en la IA: Establecer políticas, estándares y procesos para el cumplimiento y la supervisión del despliegue ético y responsable de la IA.
- Construir tuberías listas para datos de IA: Combinar sus diversas fuentes de datos en una base de datos resiliente para una IA robusta, integrando conectividad GenAI preconstruida.
Cuando las organizaciones logran esto correctamente, la gobernanza acelera el valor de la IA. En servicios financieros, por ejemplo, los fondos de cobertura están utilizando GenAI para superar a los analistas humanos en la predicción de precios de acciones mientras reducen significativamente los costos. En manufactura, la optimización de la cadena de suministro impulsada por IA permite a las organizaciones reaccionar en tiempo real ante cambios geopolíticos y presiones ambientales.
Y estas no son solo ideas futuristas, están sucediendo ahora, impulsadas por datos confiables.
Con bases de datos sólidas, las empresas reducen el deslizamiento de modelos, limitan los ciclos de reentrenamiento y aumentan la velocidad hacia el valor. Por eso, la gobernanza no es un obstáculo; es un facilitador de la innovación.
¿Qué sigue?
Después de la experimentación, las organizaciones están pasando más allá de los chatbots e invirtiendo en capacidades transformadoras. Desde personalizar interacciones con los clientes hasta acelerar la investigación médica, mejorar la salud mental y simplificar procesos regulatorios, GenAI está comenzando a demostrar su potencial en diversas industrias.
Aún así, estas ganancias dependen completamente de los datos que las sustentan. GenAI comienza con la construcción de una fuerte base de datos, a través de una sólida gobernanza de datos. Y aunque GenAI y la IA agentiva seguirán evolucionando, no reemplazarán la supervisión humana en el corto plazo. En cambio, estamos entrando en una fase de creación de valor estructurada, donde la IA se convierte en un copiloto confiable. Con las inversiones correctas en calidad de datos, gobernanza y cultura, las empresas pueden finalmente convertir GenAI de un piloto prometedor en algo que realmente despegue.
