A governança de dados proativa é fundamental para iniciativas impulsionadas por dados, especialmente no setor público, para escalar a inteligência artificial autônoma. A maioria das organizações do setor público já está explorando ou trabalhando ativamente com inteligência artificial generativa e planeja implementar a inteligência artificial autônoma nos próximos anos.
O artigo discute a importância de uma abordagem responsável para a inteligência artificial (IA) em aplicações empresariais, destacando os desafios de equilibrar ideais como transparência e ética com as pressões do negócio. A estrutura do NIST AI Risk Management Framework (RMF) é apresentada como uma ferramenta útil para identificar e mitigar riscos associados ao uso da IA.
A Comissão Europeia emitiu diretrizes para ajudar modelos de inteligência artificial identificados como tendo riscos sistêmicos a cumprir a regulamentação da União Europeia sobre inteligência artificial, conhecida como a Lei de IA. As empresas enfrentarão penalidades significativas por violações, com multas que variam de 7,5 milhões de euros a 35 milhões de euros ou até 7% do faturamento global.
A recente tentativa frustrada de membros do Congresso de congelar as leis de inteligência artificial em nível estadual deixou as empresas dos EUA enfrentando um emaranhado de regras sobre a tecnologia. Uma nova lei de IA no Colorado, que entrará em vigor no próximo ano, exige que as empresas adotem programas de gerenciamento de riscos para sistemas de IA de alto risco, incluindo avaliações de impacto e estratégias de mitigação.
O desenvolvimento de políticas de Inteligência Artificial (IA) responsáveis e estratégias de IA deve ocorrer simultaneamente, em vez de sequencialmente. Bhutan, com sua abordagem cautelosa e pragmática, pode se destacar na governança global de IA, incorporando a filosofia de Felicidade Nacional Bruta (FNB).
A Comissão Europeia elaborou diretrizes para ajudar modelos de IA com riscos sistêmicos a cumprir a regulamentação da inteligência artificial da União Europeia. As novas regras, que entram em vigor em 2 de agosto, exigem que esses modelos realizem avaliações, mitigem riscos e garantam proteção cibernética adequada.
A IA em conformidade já está presente nas operações diárias de muitas organizações, desde a revisão automatizada de contratos até a detecção avançada de anomalias. Embora a IA possa aprimorar as funções de conformidade, também pode amplificar riscos, exigindo que as organizações adotem ferramentas de conformidade impulsionadas por IA de forma responsável e eficaz.
Os novos padrões de “segurança e proteção” da UE exigirão que as empresas de tecnologia censurem e modere o conteúdo em modelos de inteligência artificial (IA) de uso geral para prevenir “ódio” e “discriminação”. Essa regulamentação tem o potencial de acelerar a censura e o controle social em todas as principais plataformas tecnológicas.
Embora 93% das organizações no Reino Unido explorem a IA, apenas 7% possuem estruturas de governança adequadas. A pesquisa revelou que muitos negócios estão adotando a IA rapidamente, mas sem entender os riscos envolvidos.
A inteligência artificial está se tornando uma parte fundamental das funções de conformidade corporativa, otimizando tarefas como revisões automatizadas de contratos e monitoramento contínuo de fraudes. No entanto, sua implementação também traz riscos regulatórios e operacionais que as organizações devem abordar.