Iniciativa das Empresas de Hong Kong em Práticas de IA Segura
Com o desenvolvimento acelerado da inteligência artificial (IA), um número crescente de organizações está utilizando essa tecnologia para otimizar operações, melhorar a qualidade e aumentar a competitividade. No entanto, a IA também apresenta riscos de segurança, incluindo a privacidade de dados pessoais, que não podem ser ignorados.
As empresas que desenvolvem ou utilizam sistemas de IA frequentemente coletam, usam e processam dados pessoais, o que pode gerar riscos de privacidade, como a coleta excessiva, uso não autorizado e violações de dados pessoais.
A Importância da Segurança em IA
A segurança da IA se tornou um tema comum em declarações e resoluções internacionais adotadas nos últimos anos. Em 2023, 28 países, incluindo a China e os Estados Unidos, assinaram a Declaração de Bletchley no AI Safety Summit no Reino Unido. A declaração afirma que o uso indevido de modelos avançados de IA pode levar a danos catastróficos e enfatiza a necessidade urgente de abordar esses riscos.
No ano seguinte, em 2024, a Assembleia Geral das Nações Unidas adotou uma resolução internacional sobre IA, promovendo sistemas de IA “seguros, confiáveis e éticos”. Durante o AI Action Summit em Paris, mais de 60 países assinaram uma declaração que destaca que aproveitar os benefícios da IA para o crescimento econômico e social depende do avanço da segurança e confiança na IA.
Iniciativas Chinesas em Governança de IA
A China, no que diz respeito à inovação tecnológica e industrial, enfatizou tanto o desenvolvimento quanto a segurança. Em 2023, o continente chinês lançou a Iniciativa Global de Governança de IA, propondo princípios como uma abordagem centrada nas pessoas e o desenvolvimento da IA para o bem.
Mais recentemente, em abril deste ano, durante uma sessão de estudo em grupo, o presidente Xi Jinping comentou que, embora a IA apresente oportunidades de desenvolvimento sem precedentes, também traz riscos e desafios nunca antes vistos.
Riscos e Desafios da IA
Esses riscos são tão sem precedentes quanto reais. Há cerca de dois anos, a Samsung proibiu seus funcionários de usar o ChatGPT devido a preocupações sobre o vazamento de informações internas sensíveis. O incidente foi provocado por um vazamento acidental de código-fonte interno. Isso ressalta a importância de proteger segredos comerciais na era da tecnologia.
Na mesma época, o ChatGPT enfrentou um incidente significativo de vazamento de dados, onde informações sensíveis, como títulos de conversas, nomes de usuários, endereços de e-mail e até partes de números de cartão de crédito, foram expostas.
Uso de IA no Ambiente de Trabalho
À medida que os chatbots baseados em IA aumentam em maturidade e popularidade, eles estão sendo utilizados em locais de trabalho, com funcionários os utilizando para preparar atas, resumir apresentações, produzir materiais promocionais ou até mesmo criar ou modificar códigos fonte internos.
No entanto, as organizações devem perceber que esse uso da IA, embora ajude a automatizar fluxos de trabalho e aumentar a produtividade, também apresenta riscos, como o vazamento de informações confidenciais ou dados pessoais de clientes, coleta excessiva ou uso inadequado de dados e a produção de dados imprecisos ou tendenciosos.
Conformidade e Políticas de IA
Diante dos riscos de privacidade e segurança impostos pela IA, um escritório conduziu verificações de conformidade em 60 organizações de diversos setores, publicando um relatório em maio deste ano. As verificações foram realizadas para entender se essas organizações estavam em conformidade com os requisitos do Ordinado de Privacidade de Dados Pessoais na coleta, uso e processamento de dados pessoais durante a utilização da IA.
Os resultados mostraram que 80% das organizações examinadas utilizavam IA em suas operações diárias. Dentre essas, metade coletava e/ou usava dados pessoais através de sistemas de IA. No entanto, nem todas tinham formulado políticas relacionadas à IA; apenas cerca de 63% das organizações que coletavam e/ou usavam dados pessoais possuíam tais políticas.
A Importância de Diretrizes Relacionadas à IA
A importância de ter uma política relacionada à IA não pode ser subestimada. As organizações são recomendadas a formular diretrizes internas de IA para equilibrar a eficácia comercial e a proteção da privacidade dos dados.
Para isso, um checklist sobre diretrizes para o uso de IA generativa por funcionários foi publicado em março, visando ajudar as organizações a desenvolver as políticas corretas em conformidade com a legislação da cidade sobre IA. As diretrizes recomendam que a política interna de IA inclua informações sobre o uso permissível de IA generativa, proteção da privacidade dos dados pessoais, uso legal e ético, prevenção de viés, segurança dos dados e as consequências de violações.
As organizações são responsáveis por garantir que o desenvolvimento ou uso da IA não seja apenas benéfico para os negócios, mas também legal e seguro. Ao aproveitar a IA para aprimorar sua vantagem competitiva, as organizações não devem permitir que a tecnologia se torne seu novo mestre.
