Um novo estudo revela que agentes de IA autônomos podem ser manipulados para divulgar dados confidenciais e executar ações destrutivas sem autorização. Essas vulnerabilidades representam riscos significativos para organizações que utilizam essas tecnologias em suas operações.
O Ministério da Ciência e TIC da Coreia do Sul lançou um grupo consultivo de especialistas para ajudar a elaborar os Princípios de Ética da Inteligência Artificial, visando construir uma sociedade de IA segura e confiável. Os novos princípios substituirão as Diretrizes Nacionais para a Ética da IA, que estão em vigor desde o final de 2020, e devem ser divulgados em um rascunho até meados de abril.
A inteligência artificial é agora uma realidade corporativa, exigindo que as organizações evoluam além da conformidade básica para navegar nas complexas regulamentações globais e considerações éticas. A nova orientação da OCDE fornece um roteiro para estruturar um plano de implementação de governança, integrando práticas responsáveis e transparência ao longo de todo o ciclo de vida da IA.
De acordo com uma postagem recente no LinkedIn da Zenity, a empresa alcançou o status “In Process” do FedRAMP enquanto trabalha em direção à autorização federal completa. A postagem destaca um foco em garantir agentes de IA dentro das agências federais, enfatizando que os modelos de segurança existentes podem não abordar totalmente a governança e o controle em tempo de execução.
Após o lançamento da versão local do agente de IA OpenClaw pelo governo do distrito de Futian, a eficiência na governança está mostrando melhorias impressionantes. A nova versão, chamada “Lobster”, pode processar documentos automaticamente e melhorar a resposta a comentários públicos, reduzindo significativamente a carga de trabalho dos funcionários.
O Instituto de Saúde Mental Huntsman anunciou a publicação de um quadro inovador para garantir que os sistemas de inteligência artificial (IA) utilizados na saúde sejam desenvolvidos de forma ética e transparente. O framework SAFE AI fornece orientações práticas para pequenas e médias empresas na construção de tecnologias médicas de IA, visando a equidade no atendimento ao paciente.