O projeto de lei RAISE, que visa regular a segurança da IA, foi aprovado pelos legisladores de Nova York e agora está na mesa da governadora Kathy Hochul. O projeto exige que os desenvolvedores de modelos de linguagem de grande porte criem e publiquem protocolos de segurança e avaliações de risco.
Nova York está prestes a introduzir uma das primeiras leis que regulam modelos avançados de IA nos Estados Unidos. A Lei de Segurança e Educação em IA Responsável (RAISE) exigirá que grandes desenvolvedores de IA publiquem protocolos de segurança e avaliações de risco antes de liberar modelos avançados no estado.
Os Agentes Guardiões estão emergindo como ferramentas essenciais para monitorar e gerenciar o comportamento autônomo da IA. Conforme mais organizações adotam esses agentes, a necessidade de ferramentas como os Agentes Guardiões se torna mais urgente para garantir que esses sistemas atuem de forma segura e alinhada aos objetivos empresariais.
O Senado do Estado de Nova York aprovou um projeto de lei inovador sobre a segurança da inteligência artificial, conhecido como RAISE Act, que visa impor salvaguardas críticas no desenvolvimento e implementação de tecnologias de IA. O senador Andrew Gounardes enfatizou a necessidade da legislação, comparando-a à obrigatoriedade de cintos de segurança em carros, questionando por que permitir o uso de IA poderosa sem proteções básicas.
O Estado de Nova York se tornou o primeiro a aprovar uma lei abrangente de segurança em IA, conhecida como RAISE Act, que estabelece padrões obrigatórios de transparência e relatórios para os principais desenvolvedores de IA. A legislação visa regular os modelos de IA avançados, exigindo que as empresas apresentem avaliações detalhadas de segurança e segurança para evitar riscos catastróficos.
O objetivo da Lei RAISE de Nova York, que visa proteger as pessoas dos danos da inteligência artificial (IA), é admirável, mas pode transformar um desafio técnico em um fardo burocrático. A lei impõe requisitos significativos que podem priorizar a conformidade em detrimento dos resultados reais de segurança.
Um novo estudo revela uma lacuna significativa entre a adoção de IA nas empresas e a prontidão para segurança, com apenas 6% das organizações possuindo uma estratégia avançada de segurança em IA. A pesquisa destaca que muitas empresas estão lutando para acompanhar os desafios de segurança e governança trazidos pela tecnologia de IA.
A IA agentiva e as ferramentas de IA que se conectam entre si sem supervisão humana apresentam riscos crescentes à segurança, de acordo com especialistas da Infosecurity Europe. Esses sistemas operam com um alto grau de autonomia, o que pode aumentar os riscos de segurança se componentes de IA forem usados em conjunto sem as devidas verificações.
A lei pioneira do Colorado sobre inteligência artificial reflete objetivos importantes de justiça e transparência no uso de IA, mas a falha em adotar o SB318 deixa os empregadores com uma incerteza significativa em relação à conformidade. A amplitude da lei original pode capturar tecnologias de baixo risco e potencialmente inibir a inovação em contratação, triagem e tecnologia de recursos humanos.
Recentemente, encontrei-me em um debate envolvente com minha equipe sobre os Níveis de Segurança da Inteligência Artificial (ASLs). À medida que discutimos, percebi que navegar pelos ASLs é muito parecido com escalar um negócio ou, para esse matter, criar uma criança; cada passo exige uma abordagem adaptada e medidas mais rigorosas.