O Sultanato de Omã lançou uma iniciativa para expandir o escopo da estrutura de Governança Ética de IA abrangente e baseada em direitos humanos. O objetivo do workshop é discutir os mecanismos para preparar estruturas regulatórias nacionais que regem o uso de sistemas de IA.
Em 25 de setembro, as Nações Unidas lançaram o Diálogo Global sobre a Governança da IA, visando discutir o desenvolvimento seguro de sistemas de IA e as lacunas de capacidade em países em desenvolvimento. No entanto, os Estados Unidos se opuseram fortemente a iniciativas de governança multilateral, levantando dúvidas sobre a eficácia do diálogo.
Na 80ª sessão da Assembleia Geral da ONU, foram lançadas duas novas iniciativas: o Diálogo Global sobre Governança de IA e o Painel Científico Internacional Independente sobre IA. Essas iniciativas visam promover uma abordagem inclusiva e coordenada para a governança da inteligência artificial, reunindo especialistas e estados membros para discutir os desafios e oportunidades dessa tecnologia transformadora.
Pense na sua estratégia de IA como a construção de um veículo de alto desempenho. Enquanto sua equipe de segurança da informação constrói o chassi e instala as trancas, seu programa de governança de IA fornece o manual do motorista e as regras da estrada, garantindo que o carro seja dirigido de forma responsável.
A Califórnia está implementando uma série de legislações relacionadas à tecnologia, incluindo a Lei de Transparência em Inteligência Artificial, que exige que os laboratórios de IA divulguem os possíveis danos e seus protocolos de segurança. Recentemente, o governador Gavin Newsom também assinou uma lei que proíbe que o volume dos comerciais exceda o nível de volume definido pelo espectador, aplicando-se até mesmo a anúncios em streaming.
Seu nome era Buster, um golden retriever que tinha um coração de lealdade pura e uma mente feita de sol e fluff. Este incidente engraçado, mas revelador, destaca o grande desafio do século XXI: o problema de alinhamento da IA, que nos confronta com a necessidade de ensinar aos sistemas de inteligência artificial a essência dos valores humanos, não apenas objetivos literais.
A ferramenta de codificação AI, como o GitHub Copilot, aumenta a produtividade, mas apresenta grandes riscos de segurança, como dependências fantasmas e código vulnerável. Sem governança e validação adequadas, as organizações enfrentam ameaças ocultas e crescente dívida técnica.
À medida que a adoção de tecnologias de IA avança, as empresas que implementam medidas mais avançadas de IA Responsável (RAI) estão se destacando, enquanto outras ficam para trás. Segundo a segunda pesquisa RAI Pulse da EY, quatro em cada cinco entrevistados afirmam que suas empresas melhoraram a inovação e a eficiência, enquanto quase metade relata aumentos na receita e na satisfação dos funcionários.
A governança de IA deve se concentrar em resultados como integridade, responsabilidade, transparência e resiliência. É essencial que as equipes de transformação de IA e cibersegurança trabalhem juntas desde o início para garantir a eficácia e a segurança dos sistemas.
A integração descontrolada da IA na governança ameaça os direitos humanos, a responsabilização e os princípios democráticos, enquanto permite a expansão do poder estatal. A utilização de armas de IA pode facilitar atrocidades e a desvalorização da vida humana.