Por que a adoção de IA exige mais colaboração entre líderes de privacidade e TI
A adoção da inteligência artificial (IA) está rapidamente reformulando as dinâmicas entre profissionais de privacidade e de TI nas organizações. Com mais de 5.000 profissionais de privacidade e gerenciamento de riscos reunidos na Conferência Global de Privacidade da IAPP, ficou evidente que a tecnologia está no centro das discussões atuais.
O momento da colaboração
De acordo com Sam Altman, CEO da OpenAI, “Este é um momento em que precisamos de novas maneiras de pensar sobre privacidade, dadas as mudanças no panorama tecnológico”. As equipes de privacidade já se tornaram mais próximas dos tecnólogos devido à legislação como o Regulamento Geral sobre a Proteção de Dados (GDPR) da União Europeia. No entanto, a IA exige uma nova era de parceria entre os departamentos.
Jenny Le, diretora da EY em Munique, destacou a importância da colaboração, afirmando que “você realmente precisa dessa colaboração de diferentes especialistas para fazer a conformidade funcionar”. As empresas não alcançarão a conformidade com a IA apenas tendo um bom advogado ou profissional de TI; é necessário que ambos estejam à mesa.
Desafios na governança da IA
Criar e sustentar a governança da IA é uma tarefa desafiadora. Quase metade das organizações atribui a falta de compreensão da IA, das tecnologias subjacentes e das obrigações de conformidade como os principais desafios. Expectativas organizacionais pouco claras também são citadas como um obstáculo.
A maioria das organizações globais está alinhando seus esforços de conformidade com a Lei de IA da UE, que analistas consideram um indicador importante. Um pouco mais da metade das empresas se sente confiante em sua capacidade de cumprir a Lei de IA, segundo um relatório recente da IAPP.
Abordagens divergentes nos EUA
No cenário federal, os Estados Unidos adotam uma abordagem hands-off em relação à regulamentação da IA. Na ausência de diretrizes claras, estados individuais estão implementando suas próprias regras, o que aumenta a complexidade e sublinha a necessidade de colaboração entre especialistas legais e técnicos.
Le observou que “quase todos os clientes com quem conversei têm mais IA do que pensam ou pelo menos mais do que suas equipes de privacidade sabem”.
Trabalho em equipe para o sucesso da IA
Os provedores de tecnologia adicionaram inúmeras funcionalidades de IA a soluções existentes, às vezes habilitando novas capacidades por padrão. Os palestrantes da conferência incentivaram as empresas a incluir pontos de contato entre as equipes de privacidade e TI durante os processos de desenvolvimento e aquisição de IA.
Um exemplo prático é a Randstad, que implementou uma mini avaliação de IA que os funcionários devem passar antes de iniciar um projeto. Historicamente, os trabalhadores respondiam a algumas perguntas relacionadas a riscos de segurança e privacidade.
Os líderes empresariais devem cultivar uma cultura colaborativa, garantindo que os funcionários estejam cientes dos requisitos regulatórios, de modo que estratégias bem elaboradas sejam executadas adequadamente.
Consequências da não conformidade
As falhas na conformidade com a Lei de IA da UE podem resultar em multas de até $39,8 milhões (35 milhões de euros). A percepção pública também deve ser considerada, já que quase três quartos dos consumidores desejam maior transparência no uso da IA por parte de supermercados e varejistas.
Os palestrantes recomendaram que os líderes conduzam exercícios de mesa e criem listas de verificação preliminares para projetos potenciais, além de construir melhores relacionamentos. CIOs e chefes de privacidade que conseguem engajar suas equipes e enfatizar a importância de práticas responsáveis verão melhores resultados.
Governança como chave para o sucesso
A maioria das empresas identificou mais casos de uso potencial de IA generativa do que poderiam financiar. As instituições financeiras, por exemplo, planejam usar a tecnologia para melhorar a detecção de fraudes e a alocação de investimentos.
Para que essas ambições se tornem realidade, a governança é fundamental. Idriss Kechida, oficial global de proteção de dados da OpenAI, afirmou que “se você está tentando ir super rápido, mas sem uma intenção clara, está basicamente criando dívida técnica”.
Sem considerar as potenciais ramificações legais, de segurança ou regulatórias durante o processo de construção ou compra da IA, as equipes de tecnologia se colocam em risco e exacerbam os desafios à reputação e ao sucesso dos negócios.
Em resumo, as empresas que conseguirem manter a confiança enquanto navegam nas complexidades da IA estarão em uma posição melhor para prosperar neste novo cenário tecnológico.
