A Califórnia se tornou o primeiro estado a promulgar uma legislação abrangente que regula a segurança e a transparência de sistemas de inteligência artificial (IA) de alto desempenho. A nova lei exige que desenvolvedores e operadores divulguem publicamente protocolos de segurança, relatórios de incidentes e planos de mitigação de riscos.
A Califórnia estabeleceu um precedente nacional ao aprovar a primeira lei de segurança de IA do país, exigindo que desenvolvedores de IA tornem públicas suas práticas de segurança. A nova legislação, assinada pelo governador Gavin Newsom, visa promover a transparência e a responsabilidade na indústria de IA.
A Califórnia promulgou a Lei de Transparência em Inteligência Artificial SB 53, que exige que grandes desenvolvedores de IA publiquem em seus sites uma descrição de como integram normas nacionais e internacionais em seus frameworks de IA. A nova legislação também estabelece um mecanismo para responder publicamente a perguntas do público, garantindo a transparência dos processos.
As empresas estão cada vez mais adotando sistemas de IA agentiva, mas a proliferação desses sistemas está criando um novo desafio conhecido como “expansão da IA agentiva”. Essa situação pode resultar em vulnerabilidades de segurança, problemas de conformidade e ineficiências operacionais se não houver uma governança adequada.
À medida que os modelos de linguagem (LLMs) se tornam comuns em áreas como saúde, finanças, educação e até na tomada de decisões políticas, suas respostas podem influenciar a percepção das pessoas sobre questões e a participação no debate público. Um novo estudo alerta que os preconceitos sutis nos sistemas de IA podem distorcer o discurso público e minar os processos democráticos.
A inteligência artificial está cada vez mais presente nas escolas, personalizando experiências de aprendizado e influenciando como as crianças acessam informações. É crucial que os direitos das crianças sejam considerados no desenvolvimento e na governança de sistemas de IA, a fim de garantir que suas necessidades e vozes sejam ouvidas.
A proposta das Nações Unidas para regular a IA visa estabelecer limites internacionais para prevenir riscos severos à humanidade e à estabilidade global. No entanto, especialistas expressam preocupações sobre a viabilidade e aplicabilidade dessas regras, especialmente em relação ao impacto nas empresas.
A governança responsável da inteligência artificial não deve começar — muito menos terminar — na conformidade legal. As empresas precisam avaliar os riscos de seus sistemas de IA independentemente, considerando não apenas as leis, mas também a possibilidade de danos, viés e a confiança dos clientes.
A era da Inteligência Artificial (IA) está acontecendo agora, com aplicações em setores como bancos e saúde. No entanto, é crucial garantir que os sistemas de IA sejam justos e confiáveis, e para isso, a Microsoft definiu seis princípios fundamentais para construir IA de forma responsável.
À medida que a IA generativa transforma a forma como as empresas operam, a implementação de sistemas de IA sem as devidas proteções pode levar a falhas dispendiosas. Os quatro pilares das guardrails de GenAI — Custos, Qualidade, Segurança e Operacionais — são essenciais para garantir um uso responsável e eficaz da IA em larga escala.