A emergência da inteligência artificial (IA) transformou fundamentalmente o cenário da cibersegurança, sendo utilizada tanto como solução quanto como ameaça. Profissionais de cibersegurança devem evoluir suas habilidades para incluir governança impulsionada por IA, visibilidade de riscos e supervisão de conformidade.
A inteligência artificial (IA) está se tornando cada vez mais integrada nas operações de serviços financeiros, transformando interações com os consumidores e funções essenciais, como decisões de crédito e detecção de fraudes. À medida que a adoção da IA avança, a questão de quais agências regularão seu uso ainda permanece em aberto.
Os agentes de IA estão se tornando fundamentais para as operações empresariais, desempenhando funções como a triagem de tickets de serviço e a automação da aplicação de políticas. No entanto, essa transformação exige uma reavaliação dos modelos de governança, pois os riscos associados à adoção de IA generativa estão se tornando cada vez mais complexos.
Os CISOs do setor financeiro enfrentam um desafio importante: promover a adoção da Inteligência Artificial enquanto constroem defesas contra ameaças aumentadas por IA. É necessário implementar um quadro estratégico que equilibre a inovação com a gestão de riscos para navegar neste cenário complexo.
O projeto de lei RAISE, que visa regular a segurança da IA, foi aprovado pelos legisladores de Nova York e agora está na mesa da governadora Kathy Hochul. O projeto exige que os desenvolvedores de modelos de linguagem de grande porte criem e publiquem protocolos de segurança e avaliações de risco.
Em 21 de março, o Projeto de Lei 149 de Ontário, Working for Workers Four Act, 2024, recebeu a sanção real. A nova lei exige que os empregadores divulguem o uso de inteligência artificial em anúncios de emprego públicos a partir de 1º de janeiro de 2026.
O Senado do Estado de Nova York aprovou o RAISE Act, que exige que as principais empresas de inteligência artificial publiquem relatórios de segurança e informem os consumidores sobre incidentes de segurança. Se assinado, o projeto de lei poderá impor penalidades civis de até 30 milhões de dólares para as empresas que violarem as regras.
A União Europeia deu início a uma nova era de regulamentação de IA com a entrada em vigor da Lei de Inteligência Artificial em 1º de agosto de 2024. Esta legislação pioneira está moldando como a IA é desenvolvida, implantada e regulamentada, tanto na Europa quanto globalmente.
Nova York está prestes a introduzir uma das primeiras leis que regulam modelos avançados de IA nos Estados Unidos. A Lei de Segurança e Educação em IA Responsável (RAISE) exigirá que grandes desenvolvedores de IA publiquem protocolos de segurança e avaliações de risco antes de liberar modelos avançados no estado.
O CEO de conformidade em IA, Erez Kaminski, destaca que implementar IA regulamentada é “incrivelmente difícil” devido à complexidade dos documentos regulatórios. Ele sugere que uma abordagem “neuro-simbólica” pode ser mais eficaz, combinando redes neurais modernas com lógica baseada em regras.