Um dos principais desafios no treinamento de modelos de inteligência artificial generativa é garantir a conformidade com as leis de direitos autorais. O Ato da IA da UE reforça a necessidade de conformidade com os direitos autorais, especialmente em relação aos modelos de linguagem de grande porte.
As empresas de tecnologia pressionaram a Comissão Europeia para suavizar o Código de Prática sobre IA de Uso Geral, que deveria ajudar os fornecedores de modelos de IA a cumprir com a Lei de IA da UE. Um relatório sugere que as empresas de tecnologia tiveram acesso estrutural ao processo de elaboração do Código, enfraquecendo as regras sobre IA avançada.
Em 9 de abril de 2025, a Comissão Europeia publicou o Plano de Ação da Continent AI, que delineia a estratégia da UE para aprimorar a inovação e a conformidade regulatória em inteligência artificial (IA). O Plano de Ação enfatiza a importância de uma IA confiável e centrada no ser humano para o crescimento econômico e a preservação dos direitos fundamentais.
A governança global de IA mudou rapidamente de supervisão colaborativa para desenvolvimento competitivo, com os governos tratando as capacidades de IA como essenciais ao poder nacional. Isso levanta preocupações sobre a influência corporativa nos processos de governança e a necessidade de um equilíbrio entre inovação e responsabilidade.
A Universidade Fatima Jinnah para Mulheres (FJWU) sediou o primeiro Desafio de Inovação Regulatória do Paquistão, focado na “Elaboração Legislativa e Competição de Políticas sobre Governança de IA”. O evento reuniu 11 equipes de universidades e think tanks para apresentar propostas inovadoras sobre a regulamentação de tecnologias emergentes no Paquistão.
O Ato da IA da UE traz novas exigências de resposta a incidentes e relatórios, visando proteger os consumidores em um cenário de IA em rápida evolução. Para as empresas com processos de incidentes estruturados, a conformidade será uma consequência natural, enquanto aquelas que ainda não investiram em gestão de incidentes encontrarão uma oportunidade para implementar as práticas necessárias.
As instituições financeiras enfrentam um desafio crítico ao equilibrar a detecção de fraudes em tempo real com a privacidade e a conformidade regulatória. A inteligência artificial se destaca como uma ferramenta essencial, permitindo a análise de grandes volumes de dados para identificar atividades suspeitas rapidamente, mas também levanta questões sobre a transparência e a ética no uso de informações sensíveis dos clientes.
A inteligência artificial se tornou mainstream graças a ferramentas como o ChatGPT, embora a maioria das empresas ainda esteja no início de sua jornada de adoção. Avivah Litan, vice-presidente da Gartner, prevê que até 2026, mais de 80% das empresas estarão usando algum tipo de agentes de IA, mesmo que sejam relativamente simples, como assistentes de e-mail.
Em 9 de janeiro de 2025, o Procurador-Geral de Nova Jersey, Matthew J. Platkin, e a Divisão de Direitos Civis de Nova Jersey anunciaram o lançamento de uma Iniciativa de Direitos Civis e Tecnologia para abordar os riscos de discriminação e assédio baseado em viés resultantes do uso de inteligência artificial (IA). A iniciativa inclui orientações sobre como a Lei de Nova Jersey contra a Discriminação se aplica à discriminação resultante do uso de IA, especialmente em contextos de emprego.
A utilização de ferramentas de IA pública nas empresas envolve custos ocultos, pois o uso não monitorado ameaça a segurança dos dados corporativos. As organizações que tentam implementar políticas de IA enfrentam desafios ao equilibrar inovação e proteção de informações confidenciais.
