As ferramentas de inteligência artificial (IA) estão se espalhando rapidamente pelos locais de trabalho, mudando a forma como as tarefas diárias são realizadas. A adoção da IA está ocorrendo de forma não monitorada, levando ao surgimento da “shadow AI” como um novo ponto cego de segurança que as organizações precisam abordar.
A União Europeia está planejando adiar a aplicação das regras de alto risco da Lei de IA até dezembro de 2027, dando mais tempo às empresas para se adaptarem. Enquanto isso, grupos de direitos alertam que essa mudança pode enfraquecer a proteção de dados e aumentar os riscos associados a sistemas que influenciam decisões críticas.
A Casa Branca está se envolvendo em uma discussão crítica sobre se a Nvidia deve ser submetida a restrições mais rígidas na exportação de seus chips de IA para a China e outros países banidos. O governo atual se opõe ao GAIN AI Act, que propõe um sistema de prioridade para a venda de semicondutores, favorecendo compradores americanos na aquisição de chips avançados.
Um painel de especialistas expressou preocupações sobre a recente lei de Inteligência Artificial da UE, que pode representar um ônus significativo para novos produtos de tecnologia médica e afastar desenvolvedores do mercado europeu. Eles esperam que o Digital Omnibus, a ser apresentado em breve, alivie algumas dessas exigências regulatórias.
A inteligência artificial está transformando a forma como os empregadores recrutam e avaliam talentos, mas também introduz riscos legais significativos sob as leis federais de anti-discriminação. A conformidade com a legislação é crucial, pois ferramentas de contratação baseadas em IA podem resultar em resultados discriminatórios, levando a responsabilidades legais para os empregadores.
O governo federal da Austrália está considerando o uso de programas de inteligência artificial para redigir submissões sensíveis ao gabinete, apesar das preocupações com a segurança e possíveis violações de dados. A ministra das Finanças, Katy Gallagher, anunciou que o serviço público desenvolverá seu próprio programa de IA para aumentar a produtividade entre os funcionários governamentais.
A União Europeia criou o Regulamento Europeu de Inteligência Artificial, estabelecendo regras claras e vinculativas para o desenvolvimento e uso de IA, visando proteger os direitos fundamentais das pessoas enquanto promove a inovação confiável. Com uma abordagem baseada em riscos, o regulamento classifica a IA em diferentes níveis de risco, garantindo mais direitos e proteção para os cidadãos europeus.
À medida que as instituições financeiras adotam a IA para automatizar a conformidade, surge uma questão crucial: realmente entendemos as decisões desses sistemas? A IA explicável pode oferecer clareza sobre como os algoritmos chegam a conclusões, tornando a conformidade com a regulamentação mais transparente e responsável.
A Califórnia promulgou novas leis de segurança e transparência em IA, exigindo que as empresas forneçam notificações prévias e avaliações de risco ao usar tecnologias de tomada de decisão automatizada. O governador Newsom vetou a proposta ‘No Robo Bosses Act’, que buscava regular o uso de sistemas de decisão automatizada nas empresas.
O monitoramento de segurança em inteligência artificial não é mais opcional, pois interações com clientes impulsionadas por IA são críticas para os negócios. A falta de monitoramento pode resultar em respostas tóxicas e enviesadas que ameaçam a confiança do cliente e a conformidade regulatória.