Os lobistas estão fazendo uma última tentativa de adiar as regras para a Inteligência Artificial de Propósito Geral (GPAI), antes da publicação esperada do tão aguardado Código de Prática pela Comissão Europeia. Enquanto isso, acadêmicos e membros da sociedade civil defendem a implementação do ato, alertando sobre os riscos sistêmicos dos modelos de GPAI.
A inteligência artificial e o aprendizado de máquina estão transformando indústrias em um ritmo impressionante. No entanto, os sistemas de IA muitas vezes enfrentam dificuldades com ambiguidades e casos excepcionais, onde a intuição e a experiência humana se destacam, o que torna o conceito de Human-in-the-Loop (HITL) essencial.
A recente orientação da CNIL sobre a aplicação do interesse legítimo como base legal para o processamento sob o GDPR para o treinamento de modelos de inteligência artificial oferece clareza sobre uma questão contestada: o uso de dados pessoais extraídos de fontes públicas. No entanto, isso é apenas uma camada em uma pilha complexa de questões regulatórias que cercam o treinamento compatível de modelos de IA.
O desenvolvimento da IA é atualmente controlado por um pequeno grupo de empresas, o que traz problemas como violações de privacidade e custos ambientais elevados. No entanto, os cooperativas de IA oferecem um modelo alternativo promissor, promovendo a governança democrática e o uso responsável da tecnologia.
O regime rigoroso de proteção de dados da União Europeia tem sido um desafio para as empresas de tecnologia globais, especialmente após uma recente decisão contra a empresa de IA chinesa DeepSeek. Essa situação destaca a importância da conformidade regulatória, onde empresas que priorizam a segurança dos dados e a conformidade terão mais chances de prosperar.
Este projeto de pesquisa investiga como a Lei de Inteligência Artificial da UE está catalisando uma transformação sistêmica nos frameworks de governança corporativa e responsabilidade. Examina como os novos padrões regulatórios que regem os sistemas de IA de alto risco obrigam as empresas a reconfigurar responsabilidades internas e redistribuir funções de supervisão.
A inteligência artificial e as tecnologias de IA são essenciais para o sucesso da função de risco. Os diretores de risco (CROs) podem implantar IA para abordar a conformidade e navegar pelos riscos de governança de dados em nível empresarial.
O Senado dos EUA votou 99-1 para remover uma provisão que teria bloqueado os estados de regulamentar a inteligência artificial pelos próximos dez anos. A votação ocorreu após a senadora Marsha Blackburn se retirar de um compromisso para apoiar a moratória.
A indústria farmacêutica enfrenta um grave desafio em relação à segurança de dados de IA, com apenas 17% das organizações implementando controles automatizados para proteger informações sensíveis. A pesquisa revela que 83% das empresas operam sem salvaguardas técnicas básicas, expondo informações valiosas e criando riscos significativos para a conformidade regulatória e a vantagem competitiva.
À medida que as organizações adotam a inteligência artificial (IA) para impulsionar a inovação e transformar operações, devem também lidar com a realidade de que a IA está rapidamente moldando o cenário das ameaças cibernéticas. Embora a IA ajude os CISOs a melhorar a detecção e resposta, ela também leva a ataques cibernéticos mais sofisticados.