A inteligência artificial pode auditar números, mas não pode governar a intenção. É fundamental que os humanos permaneçam no centro da governança, interpretando a ética e garantindo a responsabilidade nas decisões automatizadas.
O aumento da inteligência artificial (IA) nas empresas é real, assim como os riscos associados. Em 2025, 72% das empresas do S&P 500 divulgaram riscos relacionados à IA, em comparação com apenas 12% há dois anos.
Neste post, exploro como a segurança da IA pode se tornar um tema político e os perigos que isso pode trazer. Sugiro algumas medidas para evitar a politicização, aprendendo com questões passadas que evitaram essa tendência.
A Irlanda do Norte lançou o primeiro Centro de IA Responsável (AICC), um recurso online inovador para ajudar empresas, formuladores de políticas e indivíduos a entender, adotar e aplicar a Inteligência Artificial de maneira responsável. O Hub oferece ferramentas práticas e orientações para garantir que a inovação em IA seja realizada de forma ética e acessível a todos.
O Ato de IA da UE é um conjunto de regulamentos que visa garantir o uso seguro e ético da inteligência artificial, com início gradual em 2025. Para empresas dos EUA que desejam entrar no mercado europeu, isso significa que devem preparar suas tecnologias de IA para cumprir requisitos de transparência e responsabilidade, evitando multas severas por não conformidade.
As empresas enfrentam desafios de conformidade com a implementação de ferramentas de inteligência artificial, que podem violar leis existentes. Para garantir o sucesso, é crucial que as organizações entendam como essas tecnologias se aplicam às regulamentações e desenvolvam medidas estratégicas para inovar com confiança.
A Comissão lançou o Serviço de Atendimento da Lei de IA e a Plataforma de Informação Única, um hub central que fornece orientações para empresas sobre as complexidades da Lei de IA. No entanto, críticos afirmam que a Lei de IA cria incertezas sobre quais dados podem ser usados para treinar modelos de IA, o que pode levar empresas a infringir as regras de proteção de dados da UE.
A integração da GenAI nos fluxos de trabalho diários desafia diretamente as responsabilidades dos Diretores de Recursos Humanos (CHROs) em relação a políticas e conformidade. Um novo relatório revela que mais de um terço dos profissionais australianos está regularmente carregando dados sensíveis da empresa em plataformas de IA não autorizadas, expondo as organizações a sérios riscos de vazamento de dados e conformidade regulatória.
A pesquisa da EY revela que empresas que avançam na governança responsável de IA estão ligadas a melhores resultados comerciais. Quase todas as organizações relatam perdas financeiras e impactos generalizados devido a falhas de conformidade, retrocessos em sustentabilidade e resultados tendenciosos.
A falta de práticas eficazes de governança de IA está colocando as organizações em risco sério, à medida que a tecnologia se torna cada vez mais comum em diversos setores. Empresas precisam estabelecer políticas de governança para evitar problemas de segurança e garantir que a utilização de IA esteja alinhada com a tolerância ao risco da organização.