Um grupo de defesa alerta que a inteligência artificial financeira está discriminando e explorando os consumidores, deixando lacunas críticas na legislação da UE. Peter Norwood, oficial de pesquisa e defesa da Finance Watch, destaca os riscos de exclusão financeira e falta de transparência nas decisões automatizadas.
Com a crescente adoção de ferramentas de IA, um novo problema está surgindo: quando os empregadores não fornecem ferramentas de IA autorizadas, muitos trabalhadores usam aquelas de sua preferência. O uso de ferramentas de “shadow AI” no local de trabalho aumentou mais de 200% ano a ano em setores como saúde, manufatura e serviços financeiros.
O Ato de Inteligência Artificial da União Europeia (UE) estabelece um sistema de gestão de riscos obrigatório para provedores de IA de alto risco, visando proteger a saúde, a segurança e os direitos fundamentais. O Artigo 9 enfatiza a importância de um processo contínuo para identificar, avaliar e mitigar riscos ao longo do ciclo de vida do sistema de IA.
A Inteligência Artificial (IA) é uma das inovações mais transformadoras da nossa era, mas também levanta desafios éticos profundos, como privacidade de dados e viés algorítmico. Para aproveitar o potencial da IA de forma responsável, devemos desenvolver sistemas que priorizem a justiça, a transparência e a responsabilidade ética.
O artigo discute a importância de uma abordagem responsável para a inteligência artificial (IA) em aplicações empresariais, destacando os desafios de equilibrar ideais como transparência e ética com as pressões do negócio. A estrutura do NIST AI Risk Management Framework (RMF) é apresentada como uma ferramenta útil para identificar e mitigar riscos associados ao uso da IA.
O próximo Plano de Ação de Tecnologia de IA da Malásia de 2026 a 2030 irá reforçar as salvaguardas éticas e os frameworks de governança relacionados ao uso da inteligência artificial. O Ministro Digital Gobind Singh Deo afirmou que o plano incentivará a adoção generalizada da IA em setores-chave e promoverá o desenvolvimento sustentável de talentos em IA no país.
A IA em conformidade já está presente nas operações diárias de muitas organizações, desde a revisão automatizada de contratos até a detecção avançada de anomalias. Embora a IA possa aprimorar as funções de conformidade, também pode amplificar riscos, exigindo que as organizações adotem ferramentas de conformidade impulsionadas por IA de forma responsável e eficaz.
A velocidade não é igual à segurança, especialmente quando se trata de conformidade. O uso inadequado de IA pode levar a resultados imprecisos que não atendem às exigências dos reguladores, tornando-se uma responsabilidade em vez de uma solução.
A inteligência artificial (IA) e as regulamentações estão avançando rapidamente, levando a demandas de conformidade complexas e em mudança. A adoção de práticas de IA responsável ajuda a mitigar riscos, reduzir dívidas técnicas futuras e fortalecer a confiança do consumidor.
A governança de IA é uma preocupação crescente à medida que a adoção dessa tecnologia se torna generalizada. É essencial que as organizações estabeleçam políticas de responsabilidade e ética para mitigar riscos e garantir o uso responsável da inteligência artificial.