A confiança dos australianos em inteligência artificial atingiu um recorde negativo, com preocupações generalizadas sobre seu uso indevido. Um novo estudo revela que apenas um terço dos australianos confia em sistemas de IA, e mais de três quartos desejam uma regulamentação mais forte.
A recente Cúpula de IA em Paris destacou os desafios crescentes para alcançar um consenso global sobre a governança da IA. À medida que a inovação em IA acelera, regulamentações fragmentadas podem criar obstáculos para as empresas, tornando a governança, a gestão de riscos e a conformidade fatores determinantes para a adoção futura da IA.
O regulador de segurança online Ofcom foi acusado de ter uma resposta “confusa e confusa” ao regular os perigos dos chatbots de IA, que podem representar um “risco claro” para o público. Andy Burrows, diretor executivo da Molly Rose Foundation, afirmou que muitos chatbots de IA estão sendo lançados rapidamente pelas empresas de tecnologia em uma batalha por participação de mercado.
A adoção de IA nos EUA superou a capacidade da maioria das empresas de governar seu uso, com metade da força de trabalho relatando o uso de ferramentas de IA sem saber se é permitido. Além disso, muitos trabalhadores admitem confiar na IA para completar tarefas sem avaliar adequadamente os resultados, levando a erros e questões de responsabilidade.
Hoje, a Partnership on AI (PAI) lançou seu Comitê de Direção de IA Empresarial, uma nova iniciativa para promover o uso responsável de sistemas de IA em ambientes empresariais. O comitê reunirá líderes de empresas do setor privado, organizações da sociedade civil, academia e organizações filantrópicas para fomentar uma compreensão compartilhada sobre como adotar e implementar IA de forma responsável.
A Lei de IA da Europa, embora ambiciosa, está inspirando poucos países a adotar regras semelhantes. Atualmente, apenas Canadá e Brasil estão elaborando estruturas semelhantes, enquanto outras nações preferem abordagens menos restritivas em relação à regulamentação da IA.
A reunião da Aliança das Civilizações das Nações Unidas (UNAOC) em Genebra culminou no lançamento da iniciativa HUMAN-AI-T, uma plataforma digital segura para preservar o legado ético e cultural da humanidade. O evento destacou a importância do desenvolvimento ético da inteligência artificial e as recomendações-chave para a governança da IA.
O regulador de segurança online Ofcom foi acusado de ter uma resposta “confusa e desordenada” em relação à regulação dos perigos dos chatbots de IA, que podem representar um “risco claro” para o público. Andy Burrows, CEO da Molly Rose Foundation, destacou que muitos chatbots de IA estão sendo lançados rapidamente por empresas de tecnologia em uma corrida por participação de mercado.
Apesar da proliferação de eventos de governança de IA e iniciativas de consulta, ainda não foi estabelecido um framework abrangente. É crucial refletir sobre como mover a conversa para frente, considerando a fragmentação das discussões sobre segurança da IA.
As equipes de segurança podem se manter relevantes por meio de habilidades em IA e ao reforçar os benefícios da diversidade, segundo um especialista em segurança da Microsoft. Jakkal enfatizou que a governança será um papel insubstituível à medida que os agentes de IA se tornem mais comuns na defesa contra ameaças cibernéticas.
