A Regra do Direito e a Ética da IA: FRTs em Foco
A ascensão das tecnologias de reconhecimento facial (FRTs) no campo da aplicação da lei levanta questões críticas sobre ética, legalidade e direitos humanos. Embora os sistemas de IA tenham mostrado benefícios significativos, sua implementação apresenta desafios morais e éticos complexos.
Desafios da Implementação de FRTs
Em maio de 2023, um relatório indicou que a força policial local estava prestes a implementar FRTs para ajudar na captura de pessoas indesejadas. Essas tecnologias são ferramentas digitais usadas para realizar tarefas em imagens ou vídeos de rostos humanos. Contudo, a utilização de FRTs em contextos de aplicação da lei é preocupante, especialmente em relação a preconceitos e discriminação.
As FRTs são classificadas como sistemas de IA de alto risco devido a preconceitos algorítmicos inerentes. Elas identificam erroneamente pessoas de cor e mulheres em taxas significativamente mais altas do que homens brancos. Um estudo de 2020 do NIST revelou que essas taxas de erro aumentam ainda mais quando os sujeitos usam máscaras faciais.
Consequências das Identificações Errôneas
As consequências das identificações incorretas podem ser devastadoras. Em dezembro de 2020, um homem afro-americano foi preso erroneamente e detido por 10 dias após ser identificado incorretamente como suspeito de furto. Mais recentemente, uma mulher afro-americana grávida foi presa por engano por roubo de carro, resultando em uma longa interrogatório. Esses casos reais evidenciam os perigos da implementação não regulamentada de FRTs na aplicação da lei.
Privacidade da Informação e FRTs
A implementação não regulamentada de FRTs também levanta preocupações sobre privacidade informacional. As FRTs coletam dados biométricos sensíveis que podem ser mal utilizados para facilitar a vigilância em massa. Assim, é crucial regular essas tecnologias de forma a equilibrar a inovação impulsionada pela IA com o respeito pelos direitos humanos fundamentais e pela Regra do Direito.
A Interação entre a Regra do Direito, Ética da IA e FRTs
No contexto da Quarta Revolução Industrial, sistemas de IA não regulamentados como as FRTs podem ameaçar direitos humanos fundamentais e minar a Regra do Direito. A decisão no caso Edward Bridges v The Chief Constable of South Wales Police destacou que o uso de FRTs sem consentimento viola leis de proteção de dados e direitos de privacidade.
A ética da IA assume uma importância significativa, servindo como uma reflexão normativa que orienta as sociedades a lidarem de forma responsável com os impactos conhecidos e desconhecidos das tecnologias de IA. O recente Ato de Inteligência Artificial da União Europeia estabelece padrões legais vinculativos que visam garantir que sistemas de IA respeitem direitos fundamentais e princípios éticos.
Balancing AI-driven Innovation with Human Rights
A implementação planejada de FRTs pela força policial reflete um desejo de modernizar as estratégias de combate ao crime. No entanto, considerando as preocupações significativas, é recomendável que a Jamaica imponha uma moratória sobre sua implementação até que uma regulamentação legal adequada seja estabelecida. Qualquer estrutura legal deverá ser informada por uma ética centrada nos direitos humanos, garantindo que as FRTs sejam implementadas de maneira a respeitar os direitos humanos fundamentais e a Regra do Direito.
Engajamento significativo com o público é crucial para aumentar a transparência e inspirar confiança pública. A governança responsável da IA exige uma abordagem que reconheça e integre a convergência entre a ética da IA centrada nos direitos humanos e a Regra do Direito.
