A inteligência artificial (IA) está prometendo transformar a forma como as empresas garantem a conformidade com um crescente número de regulações. Tecnologias como processamento de linguagem natural (NLP) estão começando a ser amplamente utilizadas para analisar conteúdos não estruturados, como leis e regulamentos.
Hoje, a Partnership on AI (PAI) lançou seu Comitê de Direção de IA Empresarial, uma nova iniciativa para promover o uso responsável de sistemas de IA em ambientes empresariais. O comitê reunirá líderes de empresas do setor privado, organizações da sociedade civil, academia e organizações filantrópicas para fomentar uma compreensão compartilhada sobre como adotar e implementar IA de forma responsável.
A Lei de IA da Europa, embora ambiciosa, está inspirando poucos países a adotar regras semelhantes. Atualmente, apenas Canadá e Brasil estão elaborando estruturas semelhantes, enquanto outras nações preferem abordagens menos restritivas em relação à regulamentação da IA.
A reunião da Aliança das Civilizações das Nações Unidas (UNAOC) em Genebra culminou no lançamento da iniciativa HUMAN-AI-T, uma plataforma digital segura para preservar o legado ético e cultural da humanidade. O evento destacou a importância do desenvolvimento ético da inteligência artificial e as recomendações-chave para a governança da IA.
O regulador de segurança online Ofcom foi acusado de ter uma resposta “confusa e desordenada” em relação à regulação dos perigos dos chatbots de IA, que podem representar um “risco claro” para o público. Andy Burrows, CEO da Molly Rose Foundation, destacou que muitos chatbots de IA estão sendo lançados rapidamente por empresas de tecnologia em uma corrida por participação de mercado.
O artigo discute como a Lei de IA da UE pode servir como uma especificação arquitetônica para o desenvolvimento de chatbots médicos, enfatizando a importância da segurança e da parceria humana. A abordagem proposta transforma requisitos regulatórios em princípios de design que promovem sistemas de IA mais seguros e confiáveis.
Apesar da proliferação de eventos de governança de IA e iniciativas de consulta, ainda não foi estabelecido um framework abrangente. É crucial refletir sobre como mover a conversa para frente, considerando a fragmentação das discussões sobre segurança da IA.
As equipes de segurança podem se manter relevantes por meio de habilidades em IA e ao reforçar os benefícios da diversidade, segundo um especialista em segurança da Microsoft. Jakkal enfatizou que a governança será um papel insubstituível à medida que os agentes de IA se tornem mais comuns na defesa contra ameaças cibernéticas.
O ISO 42001 é o primeiro padrão internacional dedicado à gestão da Inteligência Artificial (IA), oferecendo um quadro para construir sistemas de IA confiáveis e éticos. Esta série de blogs ajudará a entender suas implicações práticas e como aplicá-las em diferentes contextos.
Os formuladores de políticas da UE estão considerando estabelecer medidas de limiar de recursos computacionais para ajudar as empresas a determinar se os modelos de IA que treinam ou modificam estão sujeitos a requisitos regulatórios sob a Lei de IA da UE. As propostas estão sendo discutidas em uma pesquisa aberta pela Comissão Europeia, cuja opinião da indústria ajudará a moldar novas diretrizes.
