Na 80ª sessão da Assembleia Geral da ONU, foram lançadas duas novas iniciativas: o Diálogo Global sobre Governança de IA e o Painel Científico Internacional Independente sobre IA. Essas iniciativas visam promover uma abordagem inclusiva e coordenada para a governança da inteligência artificial, reunindo especialistas e estados membros para discutir os desafios e oportunidades dessa tecnologia transformadora.
Nesta entrevista com Greg Hutchins, especialista em engenharia e governança de IA, discutimos a importância de padrões como ISO 42001 e NIST AI RMF para garantir a confiança e a segurança em sistemas de inteligência artificial. Ele enfatiza que a adoção de padrões de governança é essencial para o crescimento sustentável e a diferenciação competitiva no mercado atual.
A Califórnia está implementando uma série de legislações relacionadas à tecnologia, incluindo a Lei de Transparência em Inteligência Artificial, que exige que os laboratórios de IA divulguem os possíveis danos e seus protocolos de segurança. Recentemente, o governador Gavin Newsom também assinou uma lei que proíbe que o volume dos comerciais exceda o nível de volume definido pelo espectador, aplicando-se até mesmo a anúncios em streaming.
Os sistemas de saúde e as startups estão enfrentando desafios regulatórios ao implementar novas ferramentas baseadas em inteligência artificial. Executivos de startups discutiram a falta de infraestrutura necessária para monitorar modelos de aprendizado de máquina em escala durante um webinar promovido pela Manatt Health.
O GAIN Act reserva os chips de IA para empresas dos EUA antes de qualquer exportação, levantando questões sobre segurança e ambições imperiais. A aprovação do Senado com 77 votos a favor sinaliza uma mudança significativa no equilíbrio tecnológico global, afetando não apenas a inovação, mas também mineradores de criptomoedas que enfrentam aumento de custos e atrasos logísticos.
A Lei de Segurança e Educação em IA Responsável (RAISE Act), recentemente aprovada pela legislatura do Estado de Nova York, tenta abordar os riscos fundamentais dos modelos de IA de fronteira, mas ao impor obrigações apenas aos desenvolvedores, acaba por sufocar a inovação sem melhorar significativamente a segurança. O ato cria um padrão de responsabilidade irrealista, concentrando todas as obrigações nos desenvolvedores, o que pode desencorajar o progresso na área de IA.
As empresas enfrentam desafios de conformidade com a implementação de ferramentas de inteligência artificial, que podem violar leis existentes. Para garantir o sucesso, é crucial que as organizações entendam como essas tecnologias se aplicam às regulamentações e desenvolvam medidas estratégicas para inovar com confiança.
A ferramenta de codificação AI, como o GitHub Copilot, aumenta a produtividade, mas apresenta grandes riscos de segurança, como dependências fantasmas e código vulnerável. Sem governança e validação adequadas, as organizações enfrentam ameaças ocultas e crescente dívida técnica.
A Califórnia deu um passo histórico ao promulgar a Lei de Transparência em Inteligência Artificial de Fronteira (SB 53), a primeira lei estadual nos Estados Unidos dedicada inteiramente à segurança e responsabilidade da IA. A lei exige que os principais desenvolvedores de IA publiquem estruturas de segurança e relatem incidentes graves, protegendo os funcionários que denunciam violações.
A integração descontrolada da IA na governança ameaça os direitos humanos, a responsabilização e os princípios democráticos, enquanto permite a expansão do poder estatal. A utilização de armas de IA pode facilitar atrocidades e a desvalorização da vida humana.