¿El Lejano Oeste de la IA? Por qué la gobernanza de datos es más importante que nunca
A medida que el gobierno federal ha optado por restringir los mandatos y regulaciones estatales que rigen el uso de herramientas de IA, la importancia de la gobernanza de la información —y la responsabilidad de quienes gestionan datos públicos— sigue siendo inalterada.
Un reciente decreto ejecutivo ha limitado la capacidad de los estados individuales para regular herramientas de IA, creando un entorno propicio para una innovación más rápida y una implementación más amplia. Pero no se equivoquen: desregular las herramientas no significa desregular los datos.
El dilema regulatorio
Los líderes del sector público ahora navegan una paradoja regulatoria: una fuerte presión federal para la adopción de IA y una reducción de la fricción hacia la innovación, combinada con una guía limitada sobre seguridad, responsabilidad y riesgos a largo plazo. En este entorno, la responsabilidad no desaparece; se desplaza. La carga del riesgo recae cada vez más en los propietarios de la información responsables de cómo se recopilan, gobiernan, retienen y, en última instancia, se ponen a disposición los datos para los sistemas automatizados.
Consecuencias del cambio
Las regulaciones de privacidad de datos como HIPAA y la Ley de Informe Justo de Crédito siguen siendo plenamente aplicables. Si un sistema de IA ingiere datos de ciudadanos y los maneja de manera inapropiada, la ausencia de regulación específica de IA no protegerá a las agencias de las consecuencias de una violación de datos o de privacidad.
Los mandatos del guardián
El vacío regulatorio creado por el reciente decreto ejecutivo no elimina la responsabilidad; la reubica. A medida que las herramientas de IA se introducen más rápidamente en los entornos de producción, la calidad, gobernanza y administración de los datos que alimentan esos sistemas se convierten en la principal línea de defensa contra riesgos legales, éticos y operativos.
El Plan de Acción de IA 2025 identifica los datos de alta calidad como un activo estratégico nacional. Esa designación eleva a los profesionales de registros y datos de meros administradores de cumplimiento a actores centrales en la adopción responsable de IA. Las decisiones sobre qué datos se recogen, cómo se clasifican, cuánto tiempo se retienen y quién puede acceder a ellos moldean directamente si los sistemas de IA son explicables, defendibles y confiables, o si son opacos y legalmente vulnerables.
Prioridades de gobernanza
En ausencia de un marco federal integral de IA, la gobernanza de la información se ha convertido en la capa de control sobre la que las agencias pueden actuar hoy. En lugar de esperar nuevos mandatos, las agencias que buscan implementar IA de manera responsable deben centrarse en cuatro prioridades de gobernanza que están bien establecidas en principio, pero que son nuevas y significativas en un entorno habilitado por IA.
- Aplicar la minimización de datos: Los sistemas de IA están diseñados para consumir grandes volúmenes de datos, pero una gobernanza efectiva requiere moderación. Solo se deben recopilar o ingerir datos estrictamente necesarios para un propósito específico definido. Cuando un modelo no requiere información de identificación personal para funcionar, esos datos deben ser excluidos por diseño.
- Implementar políticas de retención de «necesidad de mantener»: La retención de datos ya no puede ser tratada como una función pasiva de archivo. En la era de la IA, debe ser activa, intencional y defensible. Se deben establecer períodos de retención claros no solo para los registros, sino también para los datos de entrenamiento de IA, los prompts, los resultados y las interacciones de los usuarios.
- Exigir técnicas de preservación de la privacidad: Antes de aprobar herramientas de IA, las agencias deben evaluar rigurosamente la arquitectura de privacidad detrás de ellas. Técnicas como la anonimización y la privacidad diferencial son ahora salvaguardias imprescindibles.
- Mandatar la supervisión humana: Los algoritmos son poderosos, pero carecen de juicio, contexto y responsabilidad. Una gobernanza de información sólida se extiende más allá de asegurar datos a validar cómo se utilizan los resultados impulsados por IA.
Conclusión
El panorama legal puede estar cambiando, pero la imperativa ética sigue siendo constante. Las agencias que priorizan una gobernanza de información sólida no solo reducen el riesgo de cumplimiento, sino que crean las condiciones bajo las cuales la IA puede ser implementada de manera responsable, escalada de forma sostenible y confiable por el público al que está destinada a servir.
