Regulamentações Globais de IA e Seu Impacto nos Líderes da Indústria
Há uma significativa incerteza regulatória na supervisão global da IA, principalmente devido ao cenário legal fragmentado entre os países, o que dificulta a governança eficaz de sistemas de IA transnacionais. A falta de legislação internacional harmonizada está complicando a inovação em IA, tornando difícil para as organizações entenderem quais padrões se aplicam em diferentes jurisdições.
A ausência de frameworks robustos de governança e gestão de riscos em IA expõe as organizações a riscos operacionais, éticos e financeiros. O não cumprimento das normas pode ser custoso: as multas sob a Lei de IA da UE podem alcançar até € 40 milhões ou 7% da receita global para violações severas.
Gerenciamento de Riscos em IA
Durante um episódio recente do podcast ‘AI in Business’, foi discutido como as empresas devem gerenciar ativamente os riscos crescentes da IA definindo frameworks de governança, estabelecendo tolerância ao risco e reduzindo o risco de agregação por meio da diversificação de modelos e ajustes específicos de tarefas.
Construindo Governança e Responsabilidade para Riscos de IA
Um dos principais tópicos abordados foi a comparação entre as abordagens da UE e dos Estados Unidos em relação à regulamentação da IA. A UE cria regulamentações de forma antecipada, estabelecendo regras claras e exigências antes que os problemas ocorram, enquanto os EUA frequentemente moldam sua abordagem por meio de litígios, onde processos judiciais estabelecem precedentes e melhores práticas ao longo do tempo.
Para empresas globais, essa diferença implica que elas devem adaptar as implementações de IA às exigências de cada jurisdição, o que aumenta os ônus de conformidade, mas também incentiva uma reflexão mais clara sobre os riscos.
Um exemplo citado foi o de um chatbot de uma companhia aérea que, ao responder a uma consulta sobre políticas de desconto, forneceu informações erradas. O tribunal considerou a companhia aérea responsável, mesmo não sendo ela a desenvolvedora do modelo, o que ajudou as empresas a melhorarem a gestão de riscos e a decidirem onde adotar a IA com confiança.
Gerenciando Riscos de IA com Estratégia de Governança e Modelos
As discussões sobre IA evoluíram de uma visão distante para o reconhecimento de que a IA é uma realidade operacional para muitas empresas. Esta nova compreensão levou a conversas crescentes sobre governança de IA e como gerenciar os riscos da IA de forma operacional. Isso inclui a definição de níveis de tolerância ao risco e a implementação de medidas de mitigação que vão além das exigências regulatórias.
O risco aumenta a cada novo caso de uso de IA desenvolvido, especialmente em aplicações sensíveis que impactam diretamente os consumidores. O risco de discriminação impulsionado por IA se torna crítico, pois, se um modelo for considerado discriminatório, pode afetar muitos grupos de consumidores.
Além disso, a utilização de modelos fundamentais pode propagar os efeitos discriminatórios, criando um que chamam de risco de agregação, onde uma falha em um modelo pode causar danos em várias organizações simultaneamente.
Para mitigar esses riscos, recomenda-se considerar o uso de modelos menores e específicos para tarefas, que são mais fáceis de testar e medir taxas de erro, além de menos propensos a variações de desempenho imprevisíveis.
Em suma, as empresas devem estar cientes dos riscos de agregação ao planejar e implementar IA, especialmente ao usar modelos fundamentais para decisões que impactam os consumidores.
