Gobernanza de datos de confianza cero necesaria para proteger los modelos de IA de la desinformación
Las organizaciones deben ser menos confiadas con los datos, dado cuánto de ellos es generado por inteligencia artificial, según una nueva investigación.
El aumento de la IA generativa
A medida que más empresas se suman a la tendencia de la IA generativa, el riesgo de que futuros modelos de lenguaje se entrenen con salidas de modelos anteriores aumenta, lo que incrementa el peligro de un colapso de modelos.
Recomendaciones para gestionar riesgos
Para evitar esto, se recomienda que las empresas realicen cambios en la gestión de datos no verificados. Estas recomendaciones incluyen:
- Nombrar un líder de gobernanza de IA que trabaje en estrecha colaboración con los equipos de datos y análisis.
- Mejorar la colaboración entre departamentos mediante grupos interfuncionales que incluyan representantes de ciberseguridad, datos y análisis.
- Actualizar las políticas de seguridad y gestión de datos existentes para abordar los riesgos de los datos generados por IA.
Adopción de una postura de confianza cero
Se predice que para 2028, el 50% de las organizaciones tendrán que adoptar una postura de confianza cero para la gobernanza de datos como resultado del aumento de datos no verificados generados por IA.
El enfoque de confianza cero establece medidas de autenticación y verificación, esenciales para salvaguardar los resultados comerciales y financieros.
Desafíos regulatorios
Los diferentes enfoques gubernamentales hacia la IA complican aún más la situación. Los requisitos pueden variar significativamente entre geografías, con algunas jurisdicciones buscando imponer controles más estrictos sobre el contenido generado por IA, mientras que otras pueden adoptar un enfoque más flexible.
Ejemplo de problemas de gobernanza de datos
Un ejemplo notable de cómo la IA puede causar problemas de gobernanza de datos fue cuando una empresa tuvo que reembolsar parte de un contrato gubernamental tras incluir errores generados por IA en un informe final, incluyendo citas legales que no existían.
