As ferramentas de inteligência artificial (IA) estão se espalhando rapidamente pelos locais de trabalho, mudando a forma como as tarefas diárias são realizadas. A adoção da IA está ocorrendo de forma não monitorada, levando ao surgimento da “shadow AI” como um novo ponto cego de segurança que as organizações precisam abordar.
A União Europeia está planejando adiar a aplicação das regras de alto risco da Lei de IA até dezembro de 2027, dando mais tempo às empresas para se adaptarem. Enquanto isso, grupos de direitos alertam que essa mudança pode enfraquecer a proteção de dados e aumentar os riscos associados a sistemas que influenciam decisões críticas.
A Casa Branca está se envolvendo em uma discussão crítica sobre se a Nvidia deve ser submetida a restrições mais rígidas na exportação de seus chips de IA para a China e outros países banidos. O governo atual se opõe ao GAIN AI Act, que propõe um sistema de prioridade para a venda de semicondutores, favorecendo compradores americanos na aquisição de chips avançados.
O governo federal da Austrália está considerando o uso de programas de inteligência artificial para redigir submissões sensíveis ao gabinete, apesar das preocupações com a segurança e possíveis violações de dados. A ministra das Finanças, Katy Gallagher, anunciou que o serviço público desenvolverá seu próprio programa de IA para aumentar a produtividade entre os funcionários governamentais.
A União Europeia criou o Regulamento Europeu de Inteligência Artificial, estabelecendo regras claras e vinculativas para o desenvolvimento e uso de IA, visando proteger os direitos fundamentais das pessoas enquanto promove a inovação confiável. Com uma abordagem baseada em riscos, o regulamento classifica a IA em diferentes níveis de risco, garantindo mais direitos e proteção para os cidadãos europeus.
À medida que as instituições financeiras adotam a IA para automatizar a conformidade, surge uma questão crucial: realmente entendemos as decisões desses sistemas? A IA explicável pode oferecer clareza sobre como os algoritmos chegam a conclusões, tornando a conformidade com a regulamentação mais transparente e responsável.
A Califórnia promulgou novas leis de segurança e transparência em IA, exigindo que as empresas forneçam notificações prévias e avaliações de risco ao usar tecnologias de tomada de decisão automatizada. O governador Newsom vetou a proposta ‘No Robo Bosses Act’, que buscava regular o uso de sistemas de decisão automatizada nas empresas.
O monitoramento de segurança em inteligência artificial não é mais opcional, pois interações com clientes impulsionadas por IA são críticas para os negócios. A falta de monitoramento pode resultar em respostas tóxicas e enviesadas que ameaçam a confiança do cliente e a conformidade regulatória.
Ekaterina Zaharieva, comissária de startups da União Europeia, defende que há muita propaganda contra a Lei de IA, afirmando que um regime unificado é essencial para manter a confiança no setor. Ela também anunciou um fundo de €5 bilhões para ajudar startups a se tornarem players globais sem precisar sair da Europa.
A Comissão Europeia está considerando moderar suas leis de IA em resposta à pressão de empresas de tecnologia dos EUA, mas nega que os EUA tenham influência sobre sua agenda legislativa. O ato de IA proíbe sistemas de risco considerados “inaceitáveis” e impõe requisitos rigorosos em áreas de alto risco, como saúde e policiamento.