Desafios da Conformidade Regulatória em Empresas Impulsionadas por IA
As empresas que adotam soluções de Inteligência Artificial (IA) enfrentam um grande desafio: a conformidade regulatória. A incerteza sobre como alcançar essa conformidade utilizando agentes de IA leva muitas organizações a evitar ou desacelerar a adoção de tecnologias inovadoras.
O Peso da Conformidade Regulatória
Um dos principais desafios enfrentados pelas empresas é o fardo da conformidade regulatória. Especialmente na Europa, há uma infinidade de regras, atos e regulamentações que precisam ser seguidas. Por exemplo, uma empresa do setor automotivo relatou que precisa cumprir entre 250 e 300 regulamentações para poder comercializar seus produtos globalmente.
Com a entrada em vigor do GDPR e da Data Act, a carga regulatória já aumentou consideravelmente. Com a introdução do AI Act e da Cyber Resilience Act (CRA), entre outras, espera-se que essa situação piore nos próximos anos. As consequências podem ser significativas, já que várias dessas regulamentações podem resultar em multas de até 10% da receita.
Desafios da Interpretação
Um dos desafios mais notáveis é a dificuldade de interpretação das novas regras. Em um caso, uma empresa consultou cinco escritórios de advocacia diferentes sobre a Data Act e recebeu cinco interpretações distintas. Geralmente, as medidas se clarificam através de processos judiciais, mas devido às multas elevadas, poucas empresas estão dispostas a seguir esse caminho.
A Evitação de Riscos
A falta de clareza na interpretação das regulamentações leva ao segundo desafio: a evitação de riscos. Quando o risco de multas alcança 10% da receita, poucos líderes se arriscam a operar na borda da conformidade. Isso frequentemente resulta em decisões que mantêm as empresas longe de possíveis violações, levando a um desejo de preservar o status quo e evitar inovações que possam trazer riscos. Essa atitude resulta em uma desaceleração significativa da inovação, expondo as empresas à disrupção.
Empresas globais enfrentam esse desafio mudando suas atividades de inovação para locais onde as regras são menos rígidas. Por exemplo, várias empresas automotivas europeias implementaram suas soluções de direção autônoma nos EUA, onde a carga regulatória é muito menor.
Necessidade de Supervisão Humana
Outro desafio é que muitas regulamentações exigem a supervisão humana. Embora essa abordagem seja frequentemente bem-intencionada, ela torna muito difícil substituir humanos por agentes de IA, especialmente quando esses agentes estão continuamente evoluindo.
Comportamento Não Determinístico
O comportamento não determinístico das máquinas de aprendizado é uma preocupação significativa. Esse comportamento pode levar a resultados diferentes em situações semelhantes, o que levanta sérias preocupações, especialmente em contextos críticos de segurança. No entanto, é importante reconhecer que os humanos também são não determinísticos. O software algorítmico pode se comportar de maneiras diferentes durante a operação devido a erros no código ou na infraestrutura circundante.
Falta de Automação
A falta de automação na coleta de evidências de conformidade também é um desafio. Ao contrário do princípio de “inocente até que se prove o contrário”, o ônus da prova recai sobre a empresa que fornece o produto ou serviço. A coleta manual de evidências é extremamente trabalhosa; grandes empresas podem empregar centenas de pessoas exclusivamente para essa tarefa.
Embora existam algumas soluções que coletam evidências automaticamente, a maioria das empresas ainda depende do trabalho humano para essa coleta, o que as leva a minimizar seus esforços nessa área. Isso resulta em uma redução no número de lançamentos e na aversão a tecnologias não comprovadas.
Conclusão
As empresas que buscam se tornar AI-first enfrentam cinco preocupações principais relacionadas à conformidade regulatória: dificuldade de interpretação, evitação de riscos, necessidade de supervisão humana, comportamento não determinístico e falta de automação. A incerteza sobre como alcançar a conformidade utilizando agentes de IA causa uma desaceleração na adoção dessas tecnologias. Sem a implementação adequada, os benefícios da IA não serão alcançados, o que levanta a questão sobre o valor da inovação em comparação às regulamentações.
