Las organizaciones deben pivotar hacia la gobernanza de ‘Cero Confianza’ ante la amenaza de la inundación de datos generados por IA
Se advierte que el 50% de las empresas debe adoptar políticas de datos de cero confianza para 2028 para combatir el «colapso del modelo» causado por el aumento de datos sintéticos no verificados.
La mitad de todas las organizaciones globales adoptará una postura de «cero confianza» para la gobernanza de datos para 2028, según un nuevo pronóstico. Este cambio se produce a medida que el contenido generado por IA no verificado comienza a saturar los ecosistemas de datos, dificultando cada vez más la distinción entre información humana y sintética.
La amenaza del ‘Colapso del Modelo’
La proliferación de datos sintéticos representa un riesgo significativo para la fiabilidad de los futuros Modelos de Lenguaje Grande (LLMs). Actualmente, los modelos se entrenan con grandes cantidades de datos extraídos de la web, documentos de investigación y código. Sin embargo, a medida que los resultados de la IA se alimentan cada vez más en los bucles de entrenamiento de modelos más nuevos, la industria enfrenta un fenómeno conocido como «colapso del modelo». Esto ocurre cuando las herramientas de IA comienzan a reflejar los errores o sesgos de sus predecesores en lugar de la realidad objetiva.
A pesar de estos riesgos, el apetito corporativo por la inteligencia artificial sigue siendo insaciable. Un reciente estudio revela que el 84% de los encuestados tiene la intención de aumentar la financiación para la IA generativa este año.
Recomendaciones estratégicas
Para mitigar los riesgos de datos no verificados, se aconseja a las organizaciones que tomen varias medidas inmediatas, tales como:
- Nombrar a un Líder de Gobernanza de IA: Un rol dedicado para supervisar las políticas de cero confianza y el cumplimiento.
- Colaboración Interfuncional: Alinear los equipos de ciberseguridad, análisis de datos y ética para realizar evaluaciones de riesgos completas.
- Modernizar las Prácticas de Metadatos: Implementar sistemas automatizados para identificar y señalar contenido generado por IA inexacto o sesgado en tiempo real.
- Adoptar Metadatos Activos: Utilizar alertas en tiempo real para datos obsoletos o no verificados y prevenir que contenido inexacto y sesgado llegue a sistemas críticos.
