Novo projeto de lei estadual visa impulsionar padrões de segurança para IA
Com a crescente preocupação sobre os perigos dos sistemas de inteligência artificial, a Califórnia pode em breve intervir para promover a criação de padrões de segurança. Recentemente, o Senado estadual aprovou um projeto de lei que criaria uma nova comissão com autoridade para reconhecer oficialmente organizações privadas de terceiros que desenvolvem padrões de segurança e utilizá-los para avaliar modelos de IA específicos.
Criação da Comissão de Padrões e Segurança da IA
O projeto de lei, conhecido como SB 813, não estabelece padrões em si ou cria uma organização responsável por definir esses padrões. Em vez disso, ele estabelece a Comissão de Padrões e Segurança da IA, que terá a função de supervisionar as organizações que desenvolvem e aplicam os padrões de IA.
Função das Organizações de Verificação Independente
As organizações reconhecidas pela comissão, denominadas “Organizações de Verificação Independente” (IVO), devem apresentar planos para avaliar se os desenvolvedores e implementadores de IA estão mitigando riscos de segurança. Além disso, as IVOs precisarão descrever como pretendem auditar os modelos e aplicações de IA para garantir que as melhores práticas e procedimentos sejam seguidos.
Protocolos de Monitoramento e Avaliação
O projeto de lei também exige que as organizações tenham protocolos para monitorar modelos de IA após suas avaliações iniciais. Isso inclui avaliar se mudanças subsequentes introduzem novos riscos e se os desenvolvedores estão cumprindo seus compromissos de reduzir riscos identificados anteriormente.
Voluntariedade e Incentivos do Mercado
O sistema de padrões criado pela SB 813 seria voluntário, ou seja, os desenvolvedores não seriam obrigados a ter seus modelos avaliados. No entanto, a comissão pretende oferecer um “selo de aprovação” que ajudará as empresas no mercado a demonstrar que seus modelos foram certificados por organizações aprovadas pelo estado.
Implicações e Necessidade de Regulação
As dificuldades enfrentadas pela indústria de tecnologia, que frequentemente se opõe a legislações que visam garantir a segurança dos sistemas de IA, são notórias. A falta de padrões amplamente aceitos é um dos principais argumentos contra a regulamentação. A iniciativa de criar uma comissão para supervisionar as organizações de padrões poderia representar um passo significativo em direção à regulamentação da IA na Califórnia.
Conclusão
A proposta de SB 813 reflete uma crescente necessidade de ação em relação à segurança da IA. A comissão proposta poderá servir como um incentivo para que a indústria privada desenvolva e adira a padrões de segurança, abordando as preocupações do público sobre os riscos associados à tecnologia de IA.
