A inteligência artificial (IA) está se tornando cada vez mais integrada nas operações de serviços financeiros, transformando interações com os consumidores e funções essenciais, como decisões de crédito e detecção de fraudes. À medida que a adoção da IA avança, a questão de quais agências regularão seu uso ainda permanece em aberto.
Os agentes de IA estão se tornando fundamentais para as operações empresariais, desempenhando funções como a triagem de tickets de serviço e a automação da aplicação de políticas. No entanto, essa transformação exige uma reavaliação dos modelos de governança, pois os riscos associados à adoção de IA generativa estão se tornando cada vez mais complexos.
Um projeto de lei na Califórnia, conhecido como “No Robo Bosses Act”, visa regular o uso de inteligência artificial no local de trabalho, exigindo que decisões automatizadas sejam revisadas por humanos. Se aprovado, o projeto proíbe que os empregadores dependam “principalmente” de software de tomada de decisão automatizada para promoção, disciplina ou demissão de funcionários.
Os CISOs do setor financeiro enfrentam um desafio importante: promover a adoção da Inteligência Artificial enquanto constroem defesas contra ameaças aumentadas por IA. É necessário implementar um quadro estratégico que equilibre a inovação com a gestão de riscos para navegar neste cenário complexo.
O projeto de lei RAISE, que visa regular a segurança da IA, foi aprovado pelos legisladores de Nova York e agora está na mesa da governadora Kathy Hochul. O projeto exige que os desenvolvedores de modelos de linguagem de grande porte criem e publiquem protocolos de segurança e avaliações de risco.
Em 21 de março, o Projeto de Lei 149 de Ontário, Working for Workers Four Act, 2024, recebeu a sanção real. A nova lei exige que os empregadores divulguem o uso de inteligência artificial em anúncios de emprego públicos a partir de 1º de janeiro de 2026.
Nova York está prestes a introduzir uma das primeiras leis que regulam modelos avançados de IA nos Estados Unidos. A Lei de Segurança e Educação em IA Responsável (RAISE) exigirá que grandes desenvolvedores de IA publiquem protocolos de segurança e avaliações de risco antes de liberar modelos avançados no estado.
O CEO de conformidade em IA, Erez Kaminski, destaca que implementar IA regulamentada é “incrivelmente difícil” devido à complexidade dos documentos regulatórios. Ele sugere que uma abordagem “neuro-simbólica” pode ser mais eficaz, combinando redes neurais modernas com lógica baseada em regras.
Os legisladores do estado de Nova York querem impor novos requisitos de segurança para os modelos de inteligência artificial mais avançados do mundo, mas os legisladores federais ameaçam anular as novas regras antes que sejam implementadas. O projeto de lei exigiria que os desenvolvedores apresentassem planos de segurança abrangentes para reduzir o risco de causar danos graves.
O EU AI Act é o primeiro marco legal abrangente do mundo que regula a inteligência artificial, introduzido pela Comissão Europeia em abril de 2021. Ele visa garantir que os sistemas de IA desenvolvidos ou utilizados na UE sejam seguros, transparentes e éticos, respeitando os direitos fundamentais.