Navegando la intersección entre la protección de datos y la regulación de la IA
La protección de datos y la regulación de la inteligencia artificial (IA) son dos áreas que se entrelazan de manera significativa en el contexto actual. A medida que la IA se convierte en un componente esencial en el procesamiento de datos personales, las organizaciones deben asegurarse de cumplir con las normativas vigentes como el Reglamento General de Protección de Datos (GDPR).
Importancia de la protección de datos en la IA
Los sistemas de IA dependen de los datos para funcionar eficazmente. Sin datos, la IA pierde su capacidad de ofrecer resultados significativos. Las versiones del GDPR del Reino Unido y la UE se aplican a múltiples sectores y pueden extenderse más allá de sus fronteras. Cualquier organización que utilice un sistema de IA para procesar datos personales debe cumplir con estas regulaciones, ya que las violaciones pueden conllevar multas significativas.
En 2023, la autoridad de protección de datos de Italia inició una investigación sobre Open AI, el creador de ChatGPT, resultando en multas de 15 millones de euros por incumplimiento de las obligaciones del GDPR.
Reglas de protección de datos: En la lista de vigilancia regulatoria
Para ayudar a las empresas a cumplir, la Oficina del Comisionado de Información (ICO) del Reino Unido y el Consejo Europeo de Protección de Datos han emitido una serie de materiales de orientación. La orientación de la ICO aborda las Evaluaciones de Impacto de Protección de Datos (DPIAs), que permiten analizar los flujos de datos y la lógica para identificar daños «allocativos» y «representacionales».
Por ejemplo, el uso de una herramienta de IA en el reclutamiento que discrimina por género puede ser considerado un daño representacional.
Desafíos en la transparencia de la IA
Las organizaciones no pueden simplemente alejarse del «caja negra» de la IA y afirmar que no saben lo que ocurre en su interior. Deben ser capaces de explicar, de manera transparente, cómo se generan las decisiones y los resultados de la IA, las inferencias realizadas por el sistema de IA, cómo se crea nueva información personal y los derechos del individuo sobre los datos modificados.
La comprensión de los flujos de datos de IA y la garantía de transparencia son fundamentales para el cumplimiento y la innovación. Las empresas deben ser proactivas en abordar estos desafíos para construir confianza y cumplir con los requisitos regulatorios.
Acta de IA de la UE: un cambio de juego global
La IA, al igual que la Internet y otras innovaciones tecnológicas, está sujeta a leyes y regulaciones que son neutrales en tecnología y están destinadas a todos los sectores de la sociedad. Sin embargo, la influencia de la IA es tan monumental que tiene su propia legislación específica: la Acta de IA de la UE, que entró en vigor en agosto de 2023.
Esta es la primera colección completa de leyes específicas de IA en el mundo. Tiene una aplicación intersectorial y un enfoque claro basado en el riesgo, con fuertes multas de hasta 35 millones de euros o el 7% de la facturación global por incumplimientos.
El Acta de IA de la UE clasifica la IA según el riesgo, prohibiendo prácticas como la evaluación social o la manipulación subliminal. También impone obligaciones rigurosas para los sistemas de IA de alto riesgo, como los utilizados en biometría o aplicaciones de la ley.
Prioridades de cumplimiento para usuarios de IA
Las empresas y las funciones de adquisición están empezando a adaptarse a las obligaciones del GDPR, donde sus usos de IA interactúan con datos personales. Ahora, deben cumplir no solo con las obligaciones del GDPR, sino también con el Acta de IA de la UE.
Para prepararse para el cumplimiento, se recomienda:
- Planificar la debida diligencia adecuada sobre los proveedores que utilizan IA para procesar datos personales.
- Buscar protecciones contractuales adecuadas de los proveedores de sistemas de IA.
- Demandar la participación y supervisión humana en el funcionamiento de la IA.
- Practicar la privacidad por diseño, incorporando consideraciones de protección de datos en la etapa más temprana del desarrollo del sistema de IA.
- Realizar DPIAs regularmente para identificar riesgos y formas de mitigarlos.
- Mantenerse al tanto de las reglas de protección de datos y leyes de IA en evolución.
A medida que las empresas comienzan a experimentar con la IA, se enfrentan a una convergencia masiva de legislación, reglas y responsabilidades. Aunque el entorno de cumplimiento es desafiante, con una colaboración adecuada, las empresas pueden asegurar que no solo cumplen, sino que también están a la vanguardia del desarrollo ético de la IA.
