As empresas estão adotando rapidamente agentes de IA — sistemas de IA generativa orientados a objetivos que atuam autonomamente para realizar tarefas. No entanto, à medida que os agentes de IA ganham maior autonomia e acesso a mais dados, o risco de desalinhamento e danos associados aumenta.
O governo dos EUA está pressionando os reguladores europeus a descartarem o código de prática da Lei de IA da UE, alegando que ele sufoca a inovação e impõe regras desnecessárias. A mudança de responsabilidade para as organizações que implementam a tecnologia de IA está se intensificando, exigindo que elas desenvolvam seus próprios padrões de risco.
Gigantes da tecnologia, startups de IA e instituições financeiras estão influenciando o plano de ação da IA da Casa Branca, solicitando a unificação das regulamentações federais e estaduais de IA, além de investimentos em infraestrutura energética. Entre as empresas que expressaram suas opiniões estão Amazon, Meta, Microsoft e Uber, destacando a necessidade de inovação regulatória e cooperação internacional.
Com o aumento da IA, a União Europeia introduziu regulamentações para padronizar algumas regras para seu uso. A chamada Lei de Inteligência Artificial proíbe o uso de inteligência artificial para manipular a opinião pública e exige supervisão humana para sistemas de IA de alto risco.
O Ato de Inteligência Artificial da UE se aplica a qualquer organização que comercialize, use ou se beneficie de sistemas de IA dentro da UE, independentemente da localização. As empresas precisam identificar, monitorar e classificar o uso de IA em suas operações para evitar multas pesadas antes que o regulamento entre em vigor plenamente.
A decisão da Comissão Europeia de abandonar a Diretiva de Responsabilidade da IA (AILD) traz riscos inaceitáveis, pois deixa as empresas sem diretrizes legais claras. Sem a AILD, a incerteza legal pode inibir a inovação e a confiança no uso de tecnologias de IA na Europa.
O Ato de IA da UE entrou em vigor, com regras para modelos gerativos aplicando-se a partir de agosto de 2025. Enquanto isso, o Reino Unido continua com uma abordagem baseada em princípios, sem novos quadros regulatórios no curto prazo.
A governança de IA é essencial para garantir que as empresas utilizem a inteligência artificial de forma ética e responsável, mitigando riscos e garantindo conformidade com as regulamentações. Plataformas de governança de IA, como a ModelOp, oferecem ferramentas para monitorar o desempenho da IA e assegurar que as inovações sejam implementadas de maneira segura.
Os Emirados Árabes Unidos se tornaram o primeiro país a usar oficialmente a inteligência artificial para ajudar a redigir, revisar e atualizar suas leis. Essa iniciativa visa acelerar o processo legislativo em até 70% ao permitir que a IA lide com a análise e implementação das leis.
A Comissão Europeia publicou diretrizes sobre práticas de inteligência artificial (IA) proibidas sob a Lei de IA, visando proteger direitos fundamentais e valores. As diretrizes proíbem práticas como manipulação prejudicial, exploração de vulnerabilidades e reconhecimento emocional em ambientes de trabalho, entre outras.