Europa Está Considerando Debilitar las Protecciones de la IA. Debería Reforzarlas
La UE está replanteando la Ley de IA a pesar de las repetidas advertencias de la sociedad civil. A través de la propuesta del paquete de la Ley de IA, la Comisión Europea sugirió cambios que, lejos de ser técnicos, debilitarían significativamente las salvaguardias contra los sistemas de IA considerados más peligrosos para la salud, la seguridad y los derechos fundamentales.
La propuesta, ampliamente criticada, abre la puerta a cambios más profundos sugeridos por grupos en el Parlamento Europeo.
Debate en Curso y Falta de Fortalecimiento
A medida que el debate continúa y aumenta la evidencia de los daños causados por la IA, ninguna de las propuestas ha tomado medidas para fortalecer los caminos hacia la reparación bajo la Ley de IA, a pesar de ser una debilidad central de la legislación.
Más allá del derecho a obtener una explicación y la existencia de un mecanismo de quejas, la Ley de IA ofrece poco en cuanto a herramientas para que las personas ejerzan sus derechos en caso de infracción o daño. Aunque estos procesos representan un primer paso significativo y necesario para garantizar el acceso a la información y la responsabilidad, son insuficientes.
Marco de Derechos y Desafíos Prácticos
El primer marco legal que asegura la transparencia y la responsabilidad de los sistemas de IA fue el Reglamento General de Protección de Datos (GDPR), que ahora también está en la mira del esfuerzo de desregulación de la UE. Como una ley neutral respecto a la tecnología y basada en derechos, el GDPR ha desempeñado un papel significativo en establecer límites y mecanismos de acción para los individuos cuyos datos personales son procesados por sistemas de IA.
Limitaciones en el Derecho a la Reparación
Las leyes de igualdad y no discriminación ofrecen mitigaciones clave, como cambiar la carga de la prueba en caso de que se establezca un caso preliminar de discriminación. Sin embargo, su enfoque en la reparación individual no aborda adecuadamente las desigualdades estructurales subyacentes y las dinámicas de poder, y carga a los individuos con los costos y riesgos del litigio.
Obligaciones de Documentación y Registro
Las obligaciones de documentación y registro de la Ley de IA pueden ser valiosas en este contexto. Es vital que se implementen y hagan cumplir de manera robusta, no debilitadas, ya que el actual texto de compromiso permitiría una simplificación del cumplimiento para un mayor número de empresas o la omisión de información clave al registrar sistemas de alto riesgo.
Acciones Colectivas y Desafíos Jurídicos
El marco de protección al consumidor de la UE tiene el potencial de superar muchos de los problemas que plantea la reparación individual. Sin embargo, enfrenta el desafío constante de adaptarse a un entorno digital complejo caracterizado por asimetrías de poder y falta de transparencia.
La Ley de IA debe reforzar las protecciones en lugar de diluirlas. Es necesario fortalecer los mecanismos de acción colectiva, adoptar e implementar salvaguardias procesales y garantizar que las autoridades de cumplimiento estén adecuadamente dotadas de personal y recursos.
Conclusión
A medida que la propuesta del paquete avanza hacia negociaciones interinstitucionales, los responsables de la toma de decisiones deben centrarse en mejorar las debilidades de la Ley de IA. No debemos esperar a que ocurra un escándalo para mejorar las protecciones individuales.
