Governança de IA: O Que Profissionais de Tecnologia e Segurança Precisam Saber
A inteligência artificial (IA) — seja a IA generativa, a IA agentiva ou simplesmente referida como automação — está tendo um amplo efeito nas áreas de negócio, incluindo a cibersegurança. Um estudo da Cloud Security Alliance publicado em abril revelou que nove em cada dez organizações estão atualmente adotando ou planejando adotar a IA generativa para fins de segurança.
O mesmo estudo da CSA, baseado em 2.486 respostas de profissionais de TI e segurança, observou que 63% dos profissionais de cibersegurança acreditam no potencial da IA para melhorar a segurança. Isso inclui capacidades de detecção e resposta a ameaças.
Enquanto as empresas, inclusive pequenas, estão experimentando com a adoção de IA para avaliar como a tecnologia pode beneficiar suas linhas de fundo, há também uma crescente preocupação sobre como essas ferramentas estão sendo utilizadas. Em alguns casos, as organizações já estão enfrentando o uso de “shadow AI” entre os funcionários, e cibercriminosos e atores de ameaças também estão utilizando essas ferramentas para seus fins.
Esses desenvolvimentos estão levando a um maior interesse na governança de IA, que busca abordar questões dentro do campo da inteligência artificial, como viés algorítmico, violações e preocupações éticas. Ao mesmo tempo, agências governamentais, incluindo reguladores nos EUA e na UE, estão examinando regulações mais rigorosas para essa tecnologia.
Enquanto o mercado de governança de IA foi avaliado em cerca de 890 milhões de dólares em 2024, esse número deve aumentar para 5,8 bilhões de dólares nos próximos quatro anos — uma taxa de crescimento anual de aproximadamente 45%. Se as organizações não estiverem lidando com essas questões agora, suas equipes de segurança e privacidade logo se verão encarregadas de tentar responder a essas perguntas difíceis.
Governança de IA: Um Mercado em Desenvolvimento para Profissionais Qualificados
A governança de IA está se movendo de uma teoria abstrata para uma urgência operacional. Para as equipes de segurança, a questão não é se a IA introduz risco, mas sim quão rápido podemos adaptar nossas estruturas para gerenciá-lo sem desacelerar a inovação.
Com um mercado de governança de IA prestes a crescer significativamente nos próximos anos, especialistas em cibersegurança notaram que as organizações precisarão de profissionais de segurança que compreendam plataformas de IA e que estejam familiarizados com questões de privacidade, regulamentação e cibersegurança relacionadas a esse novo campo.
Enquanto novos modelos de IA emergem, a governança desses modelos está em sua infância. As regulações não estão claramente definidas para abordar preocupações de segurança, privacidade de dados e segurança no uso de modelos de IA. Anomalias de IA ou detecções de outliers devem incluir a detecção dessas violações.
A Governança de IA Atravessa Múltiplos Campos
Profissionais de segurança e estratégia de IA estão começando a discutir estruturas, playbooks e outras maneiras de fortalecer a governança de IA. Fundamentos de privacidade, como o Registro de Atividades de Processamento (RoPAs) e Avaliações de Impacto sobre a Proteção de Dados (DPIAs), estão se tornando guias cada vez mais úteis.
A governança não precisa ser perfeita, mas deve ser proativa, transparente e incorporada ao núcleo de como a IA é construída e implantada.
Os profissionais de cibersegurança também precisam de colaboração da indústria. Compartilhando modelos de governança bem-sucedidos e insights, eles podem ajudar a criar os padrões para garantir a segurança da IA e a conformidade com uma série de agências regulatórias e legisladores. Isso requer que muitos profissionais de segurança comecem a aprimorar suas habilidades agora.
Os praticantes de segurança — e as equipes de legal, conformidade e risco — devem aprimorar suas habilidades em tecnologias de IA e governança de dados. Compreender arquiteturas de sistemas, caminhos de comunicação e comportamentos de agentes será essencial para gerenciar riscos.
À medida que esses sistemas evoluem, as estratégias de governança também devem evoluir. Políticas estáticas não serão suficientes. A governança de IA deve ser dinâmica, em tempo real e incorporada desde o início. Organizações que tratam a governança e a segurança como habilitadores estratégicos estarão melhor posicionadas para aproveitar todo o potencial da IA de forma segura e responsável.
As equipes de segurança e os profissionais de cibersegurança devem entender que, sem guardrails cuidadosamente construídos, a IA pode descobrir e utilizar informações pessoais sem considerar o impacto na privacidade ou nos direitos pessoais. Da mesma forma, a IA utilizada em tecnologias avançadas de cibersegurança pode ser explorada.
Para ajudar a mitigar essas questões, as equipes de segurança devem desenvolver habilidades e aprender com áreas como a privacidade para entender como melhor proteger a tecnologia de IA e garantir que a governança adequada seja seguida.
