Explorando o Papel da IA na Aplicação da Lei
As Agências de Aplicação da Lei (LEAs) estão utilizando cada vez mais a Inteligência Artificial (IA) para aprimorar seu funcionamento, especialmente com capacidades aprimoradas para policiamento preditivo.
Globalmente, há um aumento na adoção de novas tecnologias pelas forças de segurança. Nos Estados Unidos, o Departamento de Polícia de Nova York adotou ferramentas como o Patternizr para análise de padrões e implantação de oficiais. Da mesma forma, na China, o governo utiliza robôs para controle de multidões e monitora atividades suspeitas com o uso de drones e câmeras de detenção.
Cientistas estão desenvolvendo um modelo de realidade virtual de Xangai, incluindo escritórios e residências, para fornecer assistência em tempo real à polícia e serviços de resgate. Tanto os EUA quanto a Austrália também se concentraram na proteção infantil usando IA. Iniciativas como o uso do Clearview AI nos EUA e o Centro Australiano para Combater a Exploração Infantil permitem uma detecção e prevenção mais rápidas em casos de exploração infantil.
Enquanto isso, a Coreia do Sul introduziu carros de patrulha com IA, que integram reconhecimento de voz, análise de vídeo e processamento de dados em tempo real para garantir a segurança nas estradas. Esses exemplos destacam uma tendência mundial de integrar tecnologia para enfrentar os desafios do policiamento.
Mercado de Policiamento Preditivo
O tamanho do mercado global para policiamento preditivo é estimado em US$ 157 bilhões até 2034, com uma taxa de crescimento anual composta (CAGR) de 46,7%. O apelo do governo em integrar grandes conjuntos de dados criminais para um processo de investigação acelerado também é significativo, especialmente para países como a Índia, onde a proporção de policiais para a população é de 153 por 100.000 pessoas, abaixo dos 222 recomendados pelas Nações Unidas.
A redução dessa lacuna e a eficiência na distribuição de recursos são algumas das motivações para incluir a tecnologia na aplicação da lei.
Aplicações da IA na Aplicação da Lei
As aplicações da aplicação da lei impulsionadas por IA variam de contraterrorismo a gestão de multidões. No estado de Uttar Pradesh, o uso de drones e CCTVs com IA foi útil para rastrear pessoas e gerenciar o tráfego em grandes aglomerações, como o Kumbh Mela. Isso indica uma adoção mais ampla da tecnologia, refletida por aplicações únicas, como a preservação e digitalização de impressões digitais com maior precisão na forense criminal.
Além disso, ferramentas modernas desenvolvidas por agências centrais, como o Departamento de Pesquisa e Desenvolvimento da Polícia (BPR&D), exploram espaços como a dark web para avaliar sentimentos e fornecer informações credíveis às LEAs.
Desafios e Considerações de Governança
A Índia também tem tentado conter novos crimes cibernéticos, como lavagem de dinheiro online. A Diretoria de Execução utiliza ferramentas analíticas avançadas de IA/ML da Unidade de Inteligência Financeira (FIU) para detectar padrões monetários suspeitos.
No entanto, os sistemas de IA às vezes ficam sobrecarregados e apresentam desempenho subótimo. Apesar de contar com 275 CCTVs de IA, a Rath Yatra em Puri testemunhou a morte de três peregrinos, destacando falhas no gerenciamento de multidões.
Além disso, inconsistências técnicas, como falsos positivos que visam pessoas de pele mais escura, levantam preocupações adicionais em uma nação diversa como a Índia. Esses casos levantam questões cruciais sobre a responsabilidade dos provedores de tecnologia e as considerações de governança.
Estrutura de Governança para a Implementação da IA
A modernização das forças policiais tem sido aumentada pelos estados por meio do “Assistência a Estados e UTs para Modernização da Polícia” (ASUMP), com um orçamento de INR 4.846 crore para um período de cinco anos entre 2021-26. Delhi e Tamil Nadu empregaram a ferramenta de IA chamada ‘Innsight’, desenvolvida pela Innefu Labs, uma empresa privada que sofreu ataques cibernéticos e vazamentos de dados devido a uma estrutura de segurança fraca.
Casos como esses sugerem a necessidade de um quadro de due diligence para empresas privadas na segurança de contratos, reforçando a necessidade de um processo adequado e testes antes da implantação.
Embora as ferramentas de IA prometam eficiência, sua implementação deve ser acompanhada de mecanismos para explicabilidade para garantir os ciclos de feedback e a responsabilidade necessários para combater ocorrências de comportamento opaco.
Capacitação e Avaliação na Aplicação de IA
Para acompanhar o ritmo do crescimento tecnológico e usar a IA de forma responsável, as LEAs devem adotar mecanismos de avaliação que acompanhem a evolução tecnológica. As empresas deveriam passar por auditorias externas periódicas de algoritmos e receber certificação de conformidade da autoridade de auditoria.
Além disso, mecanismos claros de conformidade devem ser comunicados às empresas para que possam ser elegíveis para a aquisição pelas LEAs. A proposta de estabelecer um Banco de Dados de Incidentes que crie uma coleção de riscos e construa mecanismos de redução de danos relacionados à implementação de ferramentas de IA ajudará a reconhecer a natureza evolutiva dos danos.
Todos esses mecanismos propostos exigirão uma colaboração profunda entre o setor público e privado, especialmente com os desenvolvedores dessas novas tecnologias.
Além disso, deve haver esforços de sensibilização dentro das LEAs para treinar seus oficiais sobre o uso responsável da IA, incluindo conhecimento sobre riscos e danos potenciais. Alguns sistemas de monitoramento de IA podem detectar inconsistências nas atividades policiais, ajudando nas avaliações internas de desempenho.
A BPR&D pode estabelecer módulos dedicados de treinamento em IA e tecnologia em todos os verticais da polícia, desempenhando um papel crucial nesse contexto.
Conclusão
A integração da tecnologia na aplicação da lei tem um potencial imenso para aumentar a produtividade dos oficiais e agilizar o processo de captura de infratores. As LEAs podem aproveitar isso para realizar policiamento proativo, analisando grandes volumes de dados rapidamente, construindo melhores mecanismos preventivos para novos crimes como ataques cibernéticos e abordando a alocação de recursos de forma eficiente.
No entanto, a responsabilidade por qualquer incidente durante a implementação de tecnologias na aplicação da lei também recai principalmente sobre a agência operante na Índia.
A regulamentação cuidadosa, juntamente com a supervisão humana, é a base para desenvolver estruturas de governança eficazes que garantam o desenvolvimento de sistemas seguros e confiáveis para uma nação tão diversa.
