Um grupo de defesa alerta que a inteligência artificial financeira está discriminando e explorando os consumidores, deixando lacunas críticas na legislação da UE. Peter Norwood, oficial de pesquisa e defesa da Finance Watch, destaca os riscos de exclusão financeira e falta de transparência nas decisões automatizadas.
Com a crescente adoção de ferramentas de IA, um novo problema está surgindo: quando os empregadores não fornecem ferramentas de IA autorizadas, muitos trabalhadores usam aquelas de sua preferência. O uso de ferramentas de “shadow AI” no local de trabalho aumentou mais de 200% ano a ano em setores como saúde, manufatura e serviços financeiros.
Em 11 de julho de 2025, a Comissão Europeia publicou a versão final do seu Código de Prática para Inteligência Artificial de Uso Geral (GPAI), que visa ajudar os fornecedores de modelos GPAI a cumprir as obrigações de transparência, direitos autorais e segurança do Ato de IA. A adesão ao Código é voluntária e visa oferecer uma abordagem prática para a conformidade com o Ato de IA.
O Texas promulgou a Lei de Governança Responsável da Inteligência Artificial (TRAIGA), que entrará em vigor em 1º de janeiro de 2026. Esta legislação proíbe o desenvolvimento e uso de IA para uma variedade de propósitos prejudiciais, incluindo discriminação ilegal e a distribuição de conteúdo sexualmente explícito.
O cenário regulatório em torno da IA e da privacidade de dados está se tornando cada vez mais confuso, com estados introduzindo uma variedade de leis que muitas vezes se sobrepõem. As organizações precisam navegar por esse emaranhado de requisitos, equilibrando inovação e supervisão adequada.
Dalen acredita que agora é necessária uma governança específica para a IA para essa nova geração de ferramentas, a fim de garantir que sejam implantadas de forma responsável e tragam valor sustentável. Ele alerta que a velocidade não deve comprometer a segurança ou a responsabilidade.
Estamos firmemente entrincheirados na era das máquinas inteligentes, onde a inteligência artificial (IA) se tornou um disruptor estratégico. À medida que a IA se torna central em como o trabalho é realizado, é urgente que os líderes repensem a liderança, a supervisão e a responsabilidade.
Nenhum financiamento adicional foi alocado até agora para os nove órgãos públicos que receberão novos poderes para aplicar a Lei da IA da UE. O ICCL alertou que, sem recursos adicionais, esses órgãos podem não conseguir proteger as pessoas contra danos relacionados à IA.
Há preocupações há muito tempo sobre os riscos existenciais que podem ser impostos por sistemas de IA altamente capazes, que vão desde a perda de controle até a extinção. Embora a inteligência artificial possa alcançar um nível que represente riscos extremos, existem questões mais urgentes que devem ser abordadas primeiro.
O Papa Leo XIV pediu à comunidade internacional que estabeleça estruturas coordenadas e uma governança ética para a inteligência artificial, enfatizando que a tecnologia deve ser usada a serviço da humanidade e da paz. Ele destacou a necessidade urgente de refletir sobre as implicações éticas das tecnologias de IA, que estão se tornando cada vez mais capazes de agir de forma autônoma.