Neste artigo da Help Net Security, Brooke Johnson, Conselheira Jurídica Chefe da Ivanti, discute as responsabilidades legais na governança da IA e a importância da colaboração entre departamentos para garantir o uso ético e seguro da tecnologia. Ela enfatiza que a governança proativa da IA não é apenas uma opção, mas uma necessidade empresarial para mitigar riscos legais e éticos.
A Câmara dos Representantes recentemente aprovou um grande projeto de lei que impede os estados de regular modelos de inteligência artificial por 10 anos. Isso preocupa os legisladores estaduais, que temem que a falta de regulamentação possa causar problemas no futuro.
As empresas de serviços financeiros enfrentam um dilema crítico entre regulamentos de IA em rápida evolução e a necessidade de inovação. A conformidade, que deve ser integrada à estratégia central dos negócios, é vista como um diferencial competitivo na complexa paisagem regulatória atual.
As ferramentas com inteligência artificial estão proliferando nas empresas, mas muitos líderes de negócios não estão investindo adequadamente em governança de IA. Isso pode levar ao que se chama de “teatro de governança de IA”, onde as promessas não se traduzem em ações concretas.
Um novo relatório indica que 56,3% dos departamentos de conformidade nas empresas da América do Norte hesitam em adotar a tecnologia de IA, em comparação a mais de 70% de seus colegas da EMEA. Além disso, apenas 33,3% dos entrevistados da EMEA e 32% dos da América do Norte estão utilizando IA em fluxos de trabalho de conformidade.
O Secretário de Comércio, Howard Lutnick, anunciou na terça-feira planos para “reformar” o Instituto de Segurança em IA do departamento em um novo corpo chamado Centro para Padrões e Inovação em IA. O novo nome sinaliza uma mudança do termo “segurança” para um desejo de desenvolvimento rápido da tecnologia, embora o papel principal do corpo renomeado pareça ser mais ou menos o mesmo.
O Ato de Inteligência Artificial da União Europeia (EU AI Act) está rapidamente moldando o panorama regulatório para o desenvolvimento e a implementação de IA. Este ato estabelece um precedente global, com obrigações que variam de acordo com o nível de risco dos sistemas de IA.
A revolução da IA está exigindo que as instituições financeiras desenvolvam novas estruturas para adoção e governança. À medida que o mercado de IA cresce, é essencial que as organizações implementem governança robusta para equilibrar inovação e responsabilidade.
Com a inclusão da inteligência artificial no local de trabalho como uso proibido na Lei de Inteligência Artificial da UE, os departamentos de recursos humanos devem reexaminar suas diversas aplicações de IA para atender aos requisitos de conformidade. A transparência e a documentação adequada são fundamentais para garantir que o uso da IA seja responsável e em conformidade com as regulamentações existentes.
Muitas empresas ainda estão presas em modo piloto com projetos de Inteligência Artificial Generativa (GenAI), pois não abordam primeiro questões fundamentais de dados. Para que a GenAI seja implementada de forma eficaz, a governança de dados deve ser tratada como uma prioridade estratégica.