À medida que as instituições financeiras adotam a IA para automatizar a conformidade, surge uma questão crucial: realmente entendemos as decisões desses sistemas? A IA explicável pode oferecer clareza sobre como os algoritmos chegam a conclusões, tornando a conformidade com a regulamentação mais transparente e responsável.
A Califórnia promulgou novas leis de segurança e transparência em IA, exigindo que as empresas forneçam notificações prévias e avaliações de risco ao usar tecnologias de tomada de decisão automatizada. O governador Newsom vetou a proposta ‘No Robo Bosses Act’, que buscava regular o uso de sistemas de decisão automatizada nas empresas.
Em 29 de setembro de 2025, o governador da Califórnia, Gavin Newsom, assinou a Lei de Transparência em Inteligência Artificial de Fronteira, tornando a Califórnia o primeiro estado a estabelecer um quadro legal abrangente para garantir transparência e responsabilidade no desenvolvimento de modelos de inteligência artificial avançada. A lei exige que os desenvolvedores publiquem relatórios de transparência e implementem um quadro de IA de fronteira para mitigar riscos catastróficos.
A era da inteligência artificial exige que os desenvolvedores protejam segredos comerciais de maneira eficaz, já que a transparência imposta pelo Regulamento da IA da UE pode comprometer a vantagem competitiva. As empresas devem encontrar um equilíbrio entre cumprir as obrigações de divulgação e preservar o conhecimento confidencial que é essencial para sua inovação.
À medida que os sistemas de IA se tornam mais autônomos e são integrados a decisões de alto risco, como contratações e cuidados de saúde, eles introduzem dilemas éticos complexos e desafios de transparência. Um modelo de governança ágil e colaborativo é essencial para garantir a equidade, responsabilidade e confiança pública nos resultados impulsionados por IA.
A Califórnia lançou a primeira legislação abrangente do país sobre segurança e transparência em inteligência artificial, com a promulgação da Lei de Transparência em Inteligência Artificial de Fronteira (TFAIA) em 29 de setembro de 2025. Essa nova política estabelece um quadro para transparência, segurança e responsabilidade no desenvolvimento de modelos avançados de IA, visando mitigar os riscos catastróficos associados a esses sistemas.
Em 29 de setembro de 2025, o governador Gavin Newsom sancionou a Lei de Transparência em Inteligência Artificial de Fronteira (TFAIA), tornando a Califórnia o primeiro estado a exigir divulgações de segurança padronizadas dos desenvolvedores de modelos avançados de IA. As principais exigências entrarão em vigor em 1º de janeiro de 2026, focando na transparência e na responsabilidade dos desenvolvedores em relação aos riscos catastróficos.
A integração da GenAI nos fluxos de trabalho diários desafia diretamente as responsabilidades dos Diretores de Recursos Humanos (CHROs) em relação a políticas e conformidade. Um novo relatório revela que mais de um terço dos profissionais australianos está regularmente carregando dados sensíveis da empresa em plataformas de IA não autorizadas, expondo as organizações a sérios riscos de vazamento de dados e conformidade regulatória.
No ano passado, a Assembleia Geral da Califórnia aprovou a Lei de Transparência em IA da Califórnia (CAITA), que pode ser alterada para exigir que plataformas de mídia social e fabricantes de dispositivos de captura cumpram requisitos de preservação e divulgação de dados. O governador Newsom tem até 12 de outubro de 2025 para assinar a AB 853, que pode atrasar a data de entrada em vigor das disposições gerais da CAITA até 2 de agosto de 2026.
Na Califórnia, foi aprovada a nova lei “Transparency in Frontier Artificial Intelligence Act” (TFAIA), que exige que grandes desenvolvedores de IA publiquem protocolos de segurança e relatórios de transparência. A lei também oferece proteção aprimorada para denunciantes que relatam violações de segurança relacionadas à IA.