La Regla de Derecho y la Ética de la IA: Enfoque en las Tecnologías de Reconocimiento Facial
Las tecnologías de reconocimiento facial (TRFs) han demostrado ser herramientas útiles en diversas aplicaciones, sin embargo, su despliegue en contextos de aplicación de la ley plantea serios desafíos morales, legales y éticos. En un informe reciente, se mencionó que “la Fuerza de Policía de Jamaica pronto implementará tecnologías de reconocimiento facial que les ayudarán a apprehender a personas no deseadas”.
Peligros del Despliegue No Regulamentado de TRFs
A pesar de su uso generalizado, las TRFs son clasificadas como sistemas de IA de “alto riesgo” debido a los sesgos algorítmicos inherentes. En particular, las TRFs identifican incorrectamente a las personas de color y a las mujeres a tasas significativamente más altas que a los hombres blancos. Un estudio de NIST de 2020 también encontró que las tasas de identificación errónea eran aún mayores cuando los sujetos usaban mascarillas.
En el contexto de la aplicación de la ley, estas identificaciones erróneas han llevado a violaciones de derechos humanos fundamentales. En diciembre de 2020, Nijeer Parks, un hombre afroamericano, fue arrestado y detenido erróneamente durante 10 días tras ser identificado incorrectamente como un sospechoso de robo. Más recientemente, en febrero de 2023, una mujer afroamericana que estaba embarazada de ocho meses fue arrestada erróneamente por robo de automóvil y fue interrogada durante 11 horas tras un emparejamiento erróneo de TRF. Según el New York Times, ella fue “la sexta persona en reportar haber sido acusada falsamente de un crimen como resultado de la tecnología de reconocimiento facial”. Estos casos reales ilustran los peligros de desplegar TRFs en la aplicación de la ley sin supervisión regulatoria.
Además, el despliegue no regulado de TRFs ha suscitado preocupaciones sobre la privacidad informativa, ya que los datos biométricos altamente sensibles que recopilan, procesan y almacenan pueden ser mal utilizados para facilitar la vigilancia masiva. Dada la magnitud de estos riesgos, se vuelve crucial regular las TRFs de manera que se equilibre la innovación impulsada por IA con el respeto a los derechos humanos fundamentales y la Regla de Derecho.
Interacción entre la Regla de Derecho, la Ética de la IA y las TRFs
En la era de la Cuarta Revolución Industrial, los sistemas de IA no regulados como las TRFs pueden amenazar los derechos humanos fundamentales y socavar la Regla de Derecho, un principio democrático que busca prevenir el abuso del poder ejecutivo al asegurar que las acciones del estado sean legales, responsables, transparentes, justas y no discriminatorias. En el caso Edward Bridges v The Chief Constable of South Wales Police and others [2020] EWHC Civ 1058, el Tribunal de Apelación determinó que el uso de TRFs automatizadas por parte de la policía de Gales del Sur en un proyecto de vigilancia que facilitó la captura de datos biométricos faciales sensibles de aproximadamente 500,000 personas sin su consentimiento violaba “las leyes de protección de datos, las leyes de privacidad y las leyes de igualdad”, incluyendo el Artículo 8 de la Convención Europea de Derechos Humanos.
Dadas las implicaciones muy reales del despliegue no regulado de TRFs, el concepto de Ética de la IA asume una gran importancia como “una reflexión normativa sistemática… que puede guiar a las sociedades en el manejo responsable de los impactos conocidos y desconocidos de las tecnologías de IA”. La recientemente promulgada Ley de Inteligencia Artificial de la Unión Europea (AI Act) 2024 establece estándares legalmente vinculantes que buscan asegurar que los sistemas de IA “muy poderosos e impactantes” “respeten los derechos fundamentales, la seguridad y los principios éticos”. Asimismo, la Declaración de Toronto (2018), aunque no tiene fuerza de ley, busca radicalmente fomentar la aceptación de los marcos de derechos humanos como un “componente fundamental” de la Ética de la IA. Esta comprensión es especialmente valiosa para las conversaciones en torno a la regulación de TRFs en contextos policiales donde los derechos humanos fundamentales son más vulnerables a violaciones.
Conceptualmente, la Regla de Derecho y la Ética de la IA convergen en su respaldo compartido a los principios de responsabilidad, equidad, transparencia, igualdad y no discriminación como componentes constitutivos centrales. Esto es significativo, ya que una comprensión de estos puntos de convergencia puede ayudar a dar forma a enfoques éticos para regular las TRFs de modo que se desplieguen de manera que respeten los derechos y mantengan la Regla de Derecho. La Ética de la IA, fundamentada en estándares universales de derechos humanos, proporcionará una guía moral para el despliegue responsable de las TRFs, que luego se verá respaldada por la ejecución de legislación. Por lo tanto, abrazar esta convergencia puede posicionar mejor a los legisladores y otros interesados para defender marcos de gobernanza de IA que respeten los derechos y sean éticamente sólidos.
Equilibrando la Innovación Impulsada por IA con el Respeto a los Derechos Humanos Fundamentales y la Regla de Derecho
El plan de la JCF para implementar TRFs refleja un deseo loable de modernizar las estrategias de lucha contra el crimen. Sin embargo, dadas las preocupaciones significativas planteadas, Jamaica debería imponer una moratoria a su despliegue hasta que se establezca una regulación legal, como se ha hecho en jurisdicciones mucho más avanzadas tecnológicamente, como los EE. UU. Cualquier marco legal para regular las TRFs debería estar informado por la Ética de IA centrada en los derechos humanos, con el objetivo de asegurar que se desplieguen de manera que respeten los derechos y mantengan la Regla de Derecho. Adoptar este enfoque coincide con la imperativa de asegurar que el respeto a los derechos humanos fundamentales y la Regla de Derecho no se sacrifiquen en el altar de la innovación impulsada por IA. Además, debe priorizarse un compromiso significativo con el público jamaicano, ya que esto mejorará la transparencia e inspirará una mayor confianza pública.
En última instancia, la gobernanza responsable de la IA requiere un enfoque que reconozca e integre la convergencia entre la Ética de la IA centrada en los derechos humanos y la Regla de Derecho. Al abrazar esta convergencia entre la Ética de la IA y la Regla de Derecho, los legisladores y otros interesados estarán mejor posicionados para desarrollar marcos regulatorios para las TRFs que respeten los derechos humanos fundamentales y mantengan la Regla de Derecho sin sofocar la innovación impulsada por IA.
