IA ética: princípios, quadros e governação na prática

O essencial

• A IA ética designa a conceção, o desenvolvimento e a utilização da inteligência artificial em coerência com os valores humanos, através de princípios como a equidade, a transparência, a responsabilização, a proteção de dados e a supervisão humana.
• Os principais quadros de referência (as orientações europeias para uma IA de confiança, os princípios da OCDE, a recomendação da UNESCO e o quadro de gestão de risco do NIST) convergem para as mesmas famílias de princípios.
• Um princípio só se torna governação quando se traduz num controlo: um responsável designado, um procedimento, uma prova e uma revisão periódica.
• O enviesamento gere-se, não se elimina às cegas. Alguns enviesamentos são nocivos, outros são estatisticamente necessários, e a distinção tem de ser assumida.
• Com o regulamento europeu da IA e a norma ISO/IEC 42001, a IA ética deixou de ser um posicionamento: é uma obrigação documentada e auditável.

O que é a IA ética?

A IA ética consiste em conceber, construir e operar sistemas de inteligência artificial de modo a respeitar os valores humanos, preservar os direitos e evitar danos previsíveis. Abrange a origem dos dados, a forma como os modelos são treinados e testados, como as decisões são explicadas e quem permanece responsável quando um sistema erra. Três expressões são muitas vezes usadas em conjunto e convém distingui-las. A IA ética é a camada normativa: a questão do que é correto. A IA responsável é a prática operacional que põe esses valores em ação ao longo de um projeto. A IA de confiança é a formulação europeia, que o grupo de peritos de alto nível define como a união de três propriedades: lícita, ética e tecnicamente sólida. Os rótulos diferem, mas apontam para o mesmo objetivo: uma IA em que pessoas, reguladores e clientes possam confiar razoavelmente. Uma definição de trabalho útil vem do setor público. O Alan Turing Institute organiza a ética da IA em torno de seis objetivos concretos, os princípios SSAFE-D: sustentabilidade, segurança, responsabilização, equidade, explicabilidade e gestão responsável dos dados. A sua força está em ligar cada objetivo a uma ação de governação precisa, em vez de o deixar como abstração. Para uma organização que inicia o seu programa, o nosso artigo sobre os quadros de governação da IA complementa de forma útil este texto.

Porque é que a IA ética importa agora

O que estava em jogo mudou quando a IA passou de casos de uso restritos e supervisionados para sistemas generativos e de propósito geral usados em larga escala por não especialistas. À medida que a capacidade crescia, alargou-se a superfície do dano: decisões de crédito e de recrutamento enviesadas, recusas automáticas opacas, fugas de dados e conteúdos convincentes mas falsos. Existe também uma razão comercial sólida. A legalidade não garante a integridade ética: uma prática pode ser lícita e, ainda assim, nociva para os clientes e a reputação. Um sistema de pontuação que usa um substituto de uma característica protegida pode não violar nenhuma regra explícita e continuar indefensável. Se não for tratada, uma falha ética transforma-se num incidente jurídico e reputacional, muitas vezes quando o sistema já está em produção. A regulação acompanhou o movimento. O regulamento europeu da IA introduz obrigações graduais e baseadas no risco para prestadores e responsáveis pela implementação, e normas de sistema de gestão como a ISO/IEC 42001 esperam uma governação documentada em vez de boas intenções. Em Portugal, as orientações da CNPD em matéria de proteção de dados reforçam ainda mais esta exigência. A IA ética é hoje um assunto de administração com consequências em auditoria. A nossa panorâmica sobre a governação da IA mostra como estas obrigações se articulam.

Os princípios fundamentais da IA ética

A maioria dos quadros credíveis chega às mesmas famílias de princípios. A formulação varia, a substância mantém-se.

• Equidade e não discriminação. Um sistema não deve produzir diferenças injustificadas entre grupos. Isso verifica-se com testes, não por suposição. Veja a nossa análise dos enviesamentos algorítmicos.
• Transparência e explicabilidade. A lógica de uma decisão deve ser interpretável pelas pessoas afetadas e por quem a supervisiona, com documentação de entradas, limites e finalidade prevista.
• Responsabilização. É uma pessoa designada, e não o modelo, que responde pelo resultado. A manutenção, a monitorização e a desativação são atribuídas antes da implementação.
• Proteção e governação dos dados. Os dados são recolhidos, usados e conservados de forma lícita, proporcionada e segura.
• Ação e supervisão humanas. As pessoas mantêm um controlo efetivo, cuja profundidade é proporcional ao risco do caso de uso.
• Robustez técnica e segurança. Os sistemas são testados em exatidão e resistência a falhas e usos indevidos previsíveis antes da entrada em serviço.
• Bem-estar social e ambiental. O impacto mais amplo, incluindo energia e condições de trabalho, entra no cálculo.

Como atalho, os analistas reduzem muitas vezes estas famílias a cinco princípios recorrentes: centrado no ser humano e socialmente benéfico, equitativo, explicável e transparente, seguro e protegido, e responsável. O atalho serve para a comunicação. O detalhe importa para a governação.

Os quadros internacionais que definem a IA ética

Quatro textos de referência moldam a aplicação prática da IA ética. São complementares, não concorrentes.

Orientações europeias para uma IA de confiança

Publicadas pelo grupo de peritos de alto nível em 8 de abril de 2019, as orientações europeias definem a IA de confiança como lícita, ética e tecnicamente sólida, e depois enunciam sete requisitos-chave: ação e supervisão humanas; robustez técnica e segurança; privacidade e governação dos dados; transparência; diversidade, não discriminação e equidade; bem-estar social e ambiental; responsabilização. O grupo publicou depois o ALTAI, uma lista de autoavaliação que traduz os requisitos em perguntas verificáveis, finalizada em 17 de julho de 2020. Estas orientações são o antecessor conceptual do regulamento da IA.

Princípios da OCDE sobre IA

Adotados em 2019 e atualizados em maio de 2024, os princípios da OCDE estabelecem cinco princípios baseados em valores: crescimento inclusivo e desenvolvimento sustentável; respeito pelo Estado de direito, pelos direitos humanos e pelos valores democráticos; transparência e explicabilidade; robustez, solidez e segurança; responsabilização. A revisão de 2024 precisou a ação e a supervisão humanas e acrescentou o tratamento da desinformação amplificada pela IA, alargando o alcance aos modelos de base e generativos.

Recomendação da UNESCO sobre a ética da IA

Adotada por 193 Estados-Membros em 23 de novembro de 2021, a recomendação da UNESCO foi o primeiro padrão mundial sobre ética da IA. Assenta em quatro valores fundamentais e dez princípios, com a proteção dos direitos humanos e da dignidade como pedra angular, e associa os princípios a domínios de ação concretos que abrangem governação de dados, ambiente, género, educação e saúde.

Quadro de gestão de risco de IA do NIST

O quadro de gestão de risco do NIST, publicado em janeiro de 2023, é voluntário mas amplamente adotado. Organiza o trabalho em torno de quatro funções, Governar, Mapear, Medir e Gerir, e define a IA de confiança através de características como validade e fiabilidade, segurança, resiliência, responsabilização e transparência, explicabilidade, proteção da privacidade e gestão do enviesamento nocivo.

O ponto prático é a convergência. Quem se conforma a um destes quadros já percorreu a maior parte do caminho para os outros.

Dos princípios à prática: um modelo operacional

É aqui que o conteúdo generalista costuma parar e é aqui que começa o trabalho a sério. Um princípio só é governação quando está ligado a um controlo dotado de responsável, procedimento e prova. Comece pelo ciclo de vida. Tratar a entrega da IA como uma sequência de fases, da formulação do problema e da recolha de dados à construção do modelo, aos testes e à implementação, e depois à monitorização e à desativação, permite colocar as obrigações onde elas pesam. Os testes de equidade pertencem ao desenvolvimento e à fase anterior à implementação, não ao comunicado de imprensa. O desenho da supervisão pertence à definição do caso de uso. A responsabilidade da desativação fixa-se antes do lançamento. Atribua depois a responsabilização. O modelo nunca assume uma decisão: é uma pessoa nomeada que o faz. Muitas organizações formalizam este papel através de um responsável ou de um comité de ética da IA, encarregado de colocar as perguntas certas, manter um inventário dos sistemas de IA, conduzir avaliações de risco e de impacto e manter o programa atualizado à medida que o sistema e as regras evoluem. Traduza, por fim, cada princípio numa ação auditável. O Alan Turing Institute chama-lhe governação baseada em processos: a disciplina de assegurar que os princípios não são apenas enunciados, mas alcançados e comprovados. A explicabilidade torna-se um dossiê de garantia de explicabilidade. A gestão de dados torna-se uma ficha de dados. A responsabilização torna-se um registo de governação. O resultado é uma trilha de auditoria, exatamente o que um avaliador da ISO/IEC 42001 ou uma autoridade de fiscalização do mercado ao abrigo do regulamento da IA pedirá para ver. Por último, ligue os controlos às obrigações reais. As famílias de princípios acima correspondem aos deveres do regulamento da IA (gestão de risco, governação de dados, transparência, supervisão humana, conservação de registos) e aos controlos do anexo A da ISO/IEC 42001. Fazer este mapeamento uma só vez, num único sistema, separa um programa capaz de demonstrar a conformidade de um que se limita a afirmá-la. A supervisão humana, em particular, merece uma decisão de conceção explícita, que tratamos em supervisão humana dentro do ciclo ou sobre o ciclo.

Gerir o enviesamento e a equidade sem sobrecorrigir

O enviesamento é o princípio mais frequentemente mal compreendido. O reflexo é eliminá-lo todo. Esse reflexo está errado. Alguns enviesamentos são destrutivos. Um filtro de recrutamento treinado num historial de decisões enviesadas reproduz e amplifica esse historial em prejuízo de grupos protegidos. Esse enviesamento deve ser detetado e corrigido. Outros enviesamentos são necessários. Um modelo clínico que sobrerrepresenta deliberadamente uma população para uma patologia que a afeta realmente mais codifica um facto do mundo real, não um preconceito. Removê-lo tornaria o modelo menos exato e menos seguro. A postura madura consiste em compreender os enviesamentos de um sistema, decidir quais são justificados e atribuir a titularidade do risco associado a uma pessoa responsável. Corrigir um enviesamento pode fazer emergir outro, e as tendências por grupos podem inverter-se após a agregação dos dados: a gestão do enviesamento é, portanto, um processo contínuo, não uma limpeza pontual. A equidade é um compromisso de governação duradouro, sustentado por métricas e revisões, não um interruptor que se aciona uma vez.

Medir e auditar a IA ética

Um princípio que não pode ser comprovado não pode ser auditado. A medição fecha o ciclo.

• Métricas de equidade. Acompanhe medidas de impacto desigual e taxas de erro entre os grupos relevantes, segundo um calendário, com limiares acordados antecipadamente.
• Listas de avaliação. Questionários estruturados como o ALTAI europeu convertem cada requisito num item verificável e criam um registo datado da resposta.
• Documentação. As fichas de modelo e de dados registam a finalidade prevista, os limites, a proveniência dos dados e os enviesamentos conhecidos, para que um revisor possa reconstituir as decisões mais tarde.
• Ciclos de revisão. Cada sistema é reverificado a um intervalo definido para confirmar que continua a cumprir a sua finalidade e que não surgiram desvios nem novos enviesamentos.
• Prova e trilha de auditoria. Decisões, aprovações e resultados de testes são conservados para que o programa possa mostrar, e não apenas afirmar, que os controlos funcionam.

Este é o núcleo operacional da auditabilidade da IA, e é o que transforma um conjunto de princípios numa postura de governação defensável.

Perguntas frequentes

O que é a IA ética em termos simples? A IA ética é inteligência artificial construída e usada em coerência com os valores humanos para evitar danos. Na prática, um sistema é equitativo, transparente, responsável, respeitador da privacidade e mantido sob supervisão humana efetiva, com provas que sustentam cada uma destas qualidades. Qual é a diferença entre IA ética e IA responsável? A IA ética é a camada normativa: define o que é correto e que valores um sistema deve defender. A IA responsável é a prática operacional que realiza esses valores ao longo do ciclo de vida. A IA de confiança, termo europeu, combina ser lícita, ética e tecnicamente sólida. Os três conceitos sobrepõem-se amplamente. Quais são os princípios fundamentais da IA ética? As famílias recorrentes são equidade e não discriminação, transparência e explicabilidade, responsabilização, proteção e governação dos dados, ação e supervisão humanas, robustez técnica e segurança, e bem-estar social e ambiental. Os quadros da UE, da OCDE, da UNESCO e do NIST exprimem cada um uma versão destas. A IA ética é uma obrigação legal? Cada vez mais, sim. O regulamento europeu da IA fixa obrigações vinculativas baseadas no risco, e normas de sistema de gestão como a ISO/IEC 42001 esperam uma governação documentada. Princípios éticos outrora facultativos tornam-se deveres auditáveis para prestadores e responsáveis pela implementação. Como é que as empresas implementam a IA ética? Traduzindo os princípios em controlos: nomear responsáveis, ligar as obrigações a cada fase do ciclo de vida, documentar as decisões, testar o enviesamento e a exatidão e manter uma trilha de auditoria ligada às normas aplicáveis. Pode uma IA estar completamente livre de enviesamentos? Não, e não é o objetivo certo. A meta é identificar os enviesamentos de um sistema, remover os nocivos, justificar os necessários, atribuir a titularidade do risco residual e depois monitorizar de forma contínua. A gestão do enviesamento é permanente, não uma correção única.

Conclusão

A IA ética não é uma declaração de intenções. É um modelo operacional. Os princípios estão bem estabelecidos e os grandes quadros concordam quanto ao seu conteúdo, pelo que o fator diferenciador já não é saber que a equidade, a transparência e a responsabilização importam. É provar que cada um é assumido, controlado e comprovado ao longo do ciclo de vida, e ligado às obrigações reais da organização ao abrigo do regulamento da IA e da ISO/IEC 42001. As empresas que conseguem essa tradução transformam a ética de um risco reputacional numa força demonstrável. A AI Sigil existe para tornar essa tradução concreta: princípios, controlos e provas num único sistema auditável. Explore a plataforma AI Sigil para ver como.