O Senado do Estado de Nova York aprovou o RAISE Act, que exige que as principais empresas de inteligência artificial publiquem relatórios de segurança e informem os consumidores sobre incidentes de segurança. Se assinado, o projeto de lei poderá impor penalidades civis de até 30 milhões de dólares para as empresas que violarem as regras.
Um novo projeto de lei barrou o uso de inteligência artificial como profissionais de saúde mental licenciados em Nova Jersey. A legislação surge em meio ao aumento do uso de chatbots de IA para aconselhamento e tratamento de saúde mental, apresentando riscos em comparação com terapeutas humanos.
A União Europeia deu início a uma nova era de regulamentação de IA com a entrada em vigor da Lei de Inteligência Artificial em 1º de agosto de 2024. Esta legislação pioneira está moldando como a IA é desenvolvida, implantada e regulamentada, tanto na Europa quanto globalmente.
Nova York está prestes a introduzir uma das primeiras leis que regulam modelos avançados de IA nos Estados Unidos. A Lei de Segurança e Educação em IA Responsável (RAISE) exigirá que grandes desenvolvedores de IA publiquem protocolos de segurança e avaliações de risco antes de liberar modelos avançados no estado.
Os Agentes Guardiões estão emergindo como ferramentas essenciais para monitorar e gerenciar o comportamento autônomo da IA. Conforme mais organizações adotam esses agentes, a necessidade de ferramentas como os Agentes Guardiões se torna mais urgente para garantir que esses sistemas atuem de forma segura e alinhada aos objetivos empresariais.
O CEO de conformidade em IA, Erez Kaminski, destaca que implementar IA regulamentada é “incrivelmente difícil” devido à complexidade dos documentos regulatórios. Ele sugere que uma abordagem “neuro-simbólica” pode ser mais eficaz, combinando redes neurais modernas com lógica baseada em regras.
Os legisladores do estado de Nova York querem impor novos requisitos de segurança para os modelos de inteligência artificial mais avançados do mundo, mas os legisladores federais ameaçam anular as novas regras antes que sejam implementadas. O projeto de lei exigiria que os desenvolvedores apresentassem planos de segurança abrangentes para reduzir o risco de causar danos graves.
A Lei de Inteligência Artificial (IA) da União Europeia, que visa regular os riscos da IA, enfrenta possíveis revisões devido a mudanças políticas e lobby da indústria, menos de um ano após seu acordo. Embora tenha sido celebrada por estabelecer um padrão de segurança global, agora corre o risco de ser alterada enquanto a UE busca se igualar aos EUA e à China no setor de IA.
A gestão de modelos serve como a camada fundamental do MLOps (Operações de Aprendizado de Máquina), fornecendo a estrutura e a responsabilidade necessárias para suportar todo o ciclo de vida do aprendizado de máquina. Com práticas como controle de versão e monitoramento de desempenho, a gestão de modelos é essencial para garantir a implantação confiável e a eficiência operacional.
A Lei de IA da UE não é uma proibição geral; é uma estrutura de risco meticulosamente elaborada projetada para promover a inovação responsável. Com sua abrangência global, empresas que operam dentro da UE ou que impactam cidadãos da UE devem estar cientes de suas obrigações regulatórias.