4 Perguntas de Conformidade para CIOs Considerando Projetos de IA
As empresas têm muito a considerar antes de lançar projetos de Inteligência Artificial (IA), desde qual caso de uso perseguir até quais controles implementar. Por trás de cada boa ideia, existem uma série de implicações legais, exigindo que os CIOs avancem com cautela.
A conformidade com as diversas leis e regulamentos sobre IA em diferentes países, estados e jurisdições não é uma tarefa fácil. Tentar proteger os projetos para o futuro apenas aumenta a complexidade.
As empresas devem buscar criar processos e governança que mitiguem os riscos da IA enquanto possibilitam a inovação. Aqui estão quatro perguntas com implicações legais que os CIOs devem considerar ao planejar e avançar com projetos de IA:
1. O caso de uso de IA é de alto risco?
Os casos de uso de IA são geralmente considerados de alto risco se envolvem infraestrutura crítica, oportunidades de emprego ou biometria. As empresas podem já ter esses tipos de casos de uso sem perceber, como nas funções de RH.
As empresas podem estar quebrando leis se os líderes usarem IA para filtrar candidaturas. Resultados produzidos pela IA podem conter viés, o que pode tornar as empresas não conformes com as leis existentes de anti-discriminação, por exemplo.
As empresas precisarão tomar precauções extras caso os líderes planejem avançar com casos de uso de alto risco. Os tomadores de decisão também devem se familiarizar com as leis que exigem controles sobre a tomada de decisões automatizadas para evitar multas e outras repercussões.
2. Em qual jurisdição esta ferramenta será utilizada?
A garantia de conformidade com as regras e regulamentos existentes exige que as empresas saibam exatamente onde uma ferramenta de IA está sendo utilizada. As leis variam entre as jurisdições.
“Já existem 140 leis de privacidade”, disse um especialista em um painel. “Temos o Ato de IA da UE. Praticamente todas as jurisdições estão regulando a IA neste momento.”
Algumas organizações estão navegando pelas abordagens regulatórias divergentes, buscando conformidade com os padrões mais altos.
3. Como os dados são utilizados — e de onde vêm?
Dados de qualidade tornam a IA melhor. Mas as organizações têm níveis variados de conforto em relação ao que desejam que seus sistemas de IA sejam treinados e o que os funcionários estão autorizados a inserir.
Um responsável por dados em uma empresa afirmou que cada projeto passa por um processo de revisão de risco antes de ser iniciado. Como parte da avaliação inicial, as equipes consideram usar dados reais em vez de dados sintéticos.
Dados sintéticos não contêm informações identificáveis pessoais, aproximando as organizações da conformidade com leis de privacidade, como o Regulamento Geral de Proteção de Dados da União Europeia. Se feito corretamente, o uso de dados sintéticos também pode reduzir viés histórico encontrado em conjuntos de dados do mundo real.
4. Construir ou comprar?
A necessidade de gerenciar o risco de terceiros não pode ser subestimada. Os líderes de tecnologia devem entender como as organizações terceirizadas planejam usar as informações inseridas em seus sistemas e quais controles estão em vigor para limitar viés, reduzir riscos e promover práticas responsáveis.
Freqüentemente, as organizações desejam levar a gestão de risco um passo além do que já está nos contratos padrão, como indenização de direitos autorais, que é oferecida em certa medida por provedores líderes.
Os CIOs podem contar com seus colegas de privacidade durante as negociações para identificar riscos evitáveis.
