Os sistemas de saúde e as startups estão enfrentando desafios regulatórios ao implementar novas ferramentas baseadas em inteligência artificial. Executivos de startups discutiram a falta de infraestrutura necessária para monitorar modelos de aprendizado de máquina em escala durante um webinar promovido pela Manatt Health.
A Lei de Segurança e Educação em IA Responsável (RAISE Act), recentemente aprovada pela legislatura do Estado de Nova York, tenta abordar os riscos fundamentais dos modelos de IA de fronteira, mas ao impor obrigações apenas aos desenvolvedores, acaba por sufocar a inovação sem melhorar significativamente a segurança. O ato cria um padrão de responsabilidade irrealista, concentrando todas as obrigações nos desenvolvedores, o que pode desencorajar o progresso na área de IA.
As empresas enfrentam desafios de conformidade com a implementação de ferramentas de inteligência artificial, que podem violar leis existentes. Para garantir o sucesso, é crucial que as organizações entendam como essas tecnologias se aplicam às regulamentações e desenvolvam medidas estratégicas para inovar com confiança.
A ferramenta de codificação AI, como o GitHub Copilot, aumenta a produtividade, mas apresenta grandes riscos de segurança, como dependências fantasmas e código vulnerável. Sem governança e validação adequadas, as organizações enfrentam ameaças ocultas e crescente dívida técnica.
A Califórnia deu um passo histórico ao promulgar a Lei de Transparência em Inteligência Artificial de Fronteira (SB 53), a primeira lei estadual nos Estados Unidos dedicada inteiramente à segurança e responsabilidade da IA. A lei exige que os principais desenvolvedores de IA publiquem estruturas de segurança e relatem incidentes graves, protegendo os funcionários que denunciam violações.
Nos últimos anos, a tecnologia de deepfake evoluiu de um problema de pesquisa de nicho para uma ameaça significativa para empresas, governos e a sociedade em geral. À medida que as regulamentações aumentam, a detecção de deepfakes não é apenas uma escolha tecnológica, mas uma necessidade operacional e um imperativo de governança para as organizações.
A inteligência artificial generativa (GenAI) não é mais um conceito futurista para o mercado federal, mas uma força presente moldando como as agências e seus parceiros da indústria cumprem suas missões. Com 64% dos respondentes federais relatando o uso diário de IA, as agências estão passando de pilotos para a produção, explorando oportunidades reais para otimizar operações e automatizar tarefas rotineiras.
Alberta precisa implementar regulamentações de IA para proteger seus cidadãos e indústrias, uma vez que a tecnologia pode causar mais danos do que benefícios sem salvaguardas adequadas. A legislação provincial pode garantir que a inovação aconteça de forma responsável e ética, evitando a discriminação e a violação dos direitos de privacidade.
Em 23 de setembro de 2025, a lei italiana sobre inteligência artificial foi assinada, complementando o Ato de Inteligência Artificial da UE. A lei entrará em vigor em 10 de outubro de 2025 e inclui disposições sobre o uso de dados pessoais em pesquisa científica e obrigações para empregadores em relação ao uso de sistemas de IA no local de trabalho.
A segurança da IA nas empresas é mal governada e fragmentada, deixando os riscos mais críticos sem gerenciamento. A pesquisa revela que 50% esperam perda de dados através de ferramentas de IA generativa no próximo ano e 70% admitem que não possuem uma governança de IA otimizada.
