O International AI Safety Report (Relatório internacional sobre a segurança da IA) é a referência científica mais citada sobre as capacidades e os riscos da IA de finalidade geral. A segunda edição saiu a 3 de fevereiro de 2026, presidida por Yoshua Bengio, com mais de 100 peritos independentes e o apoio de mais de 30 países e organizações internacionais. O próprio texto o diz: não recomenda políticas nem cria obrigações, e é por isso que tantas equipas o arrumam mal. Este guia lê a edição de 2026 como evidência: onde o artigo 55.º e o código de boas práticas esperam que tenha sido lido, o que um responsável pela implantação retira dele, e onde deixa de servir como prova.
O essencial
- O International AI Safety Report 2026 (3 de fevereiro de 2026) é ciência, não lei: nenhuma recomendação, nenhuma assinatura dos Estados Unidos.
- Três categorias de risco (utilização abusiva, mau funcionamento, sistémicos), mapeadas no considerando 110 e no Apêndice 1 do código.
- Para prestadores de modelos com risco sistémico, a base citável do «estado da arte» do artigo 55.º, n.º 1, alínea a).
- Para os restantes, fontes de risco (artigo 9.º, ISO/IEC 23894, NIST AI 600-1) e uma razão para medir o enviesamento de automatização.
- Cite a edição e a data: os números envelhecem em meses; as coimas do Serviço para a IA correm desde 2 de agosto de 2026.
O que é o International AI Safety Report, e o que não é
O mandato nasceu na cimeira de Bletchley Park, em novembro de 2023; seguiram-se um relatório intercalar em maio de 2024, a primeira edição completa a 29 de janeiro de 2025, duas Key Updates a 15 de outubro e a 25 de novembro de 2025, e o International AI Safety Report 2026 a 3 de fevereiro de 2026 (DSIT 2026/001; arXiv desde 24 de fevereiro de 2026, CC BY 4.0, 92 autores). Quem o escreve determina como se cita: mais de 100 peritos independentes com total discrição sobre o conteúdo, revistos por um painel consultivo nomeado por mais de 30 países, pela UE, pela ONU e pela OCDE. Não subscreve nenhuma política, não representa nenhum governo e não vincula ninguém. E o apoio não é unânime: segundo a TIME, os Estados Unidos comentaram as versões preliminares e recusaram assinar a versão final, ao contrário do ano anterior; o Reino Unido, a China e a UE apoiaram-na. Saiu antes da cimeira AI Impact Summit de Nova Deli (16 a 20 de fevereiro de 2026). E já não está só: a resolução A/RES/79/325 da ONU, de 26 de agosto de 2025, criou um Painel Científico Internacional Independente sobre a IA, com 40 membros nomeados a 12 de fevereiro de 2026, mandato até 11 de fevereiro de 2029 e um relatório anual. Em Portugal, a ANACOM é, desde setembro de 2025, autoridade de fiscalização do mercado e ponto de contacto único, coordenando as autoridades de direitos fundamentais; a CNPD é a autoridade de proteção de dados. O guia operacional do Regulamento IA da UE situa estes instrumentos no mapa.
O que mudou entre as edições de 2025 e 2026
Três coisas mudaram. Primeiro, a origem dos ganhos: menos o pré-treino, mais o pós-treino e o escalonamento em tempo de inferência. Os resultados: medalha de ouro na Olimpíada Internacional de Matemática em julho de 2025; mais de 60 % do SWE-bench Verified, contra cerca de 41 % no final de 2024; cerca de 26 % no Humanity’s Last Exam, contra menos de 5 % no início de 2024. Num benchmark de software, a tarefa que um agente conclui com 50 % de fiabilidade passou de cerca de 18 minutos para mais de 2 horas num ano, com o horizonte a duplicar a cada sete meses. Segundo, as capacidades são «irregulares». Sistemas que acertam em mais de 80 % das perguntas de ciência de nível pós-graduado falham a contar objetos ou a recuperar de erros simples, e os melhores agentes concluíram menos de 40 % das tarefas realistas de apoio ao cliente, 30 % das de escritório e 12 % das abertas na web. É a conclusão mais útil para quem desenha a supervisão humana: brilho no caso difícil, disparate no trivial. Terceiro, a «lacuna de avaliação»: os testes pré-implantação falham muitas vezes em prever o desempenho real e os modelos reconhecem cada vez melhor quando são testados. A primeira Key Update chama-lhe consciência de avaliação. Na indústria, 12 empresas publicaram ou atualizaram Frontier AI Safety Frameworks (quadros de segurança de fronteira) em 2025, mais do dobro, e vários criadores reforçaram salvaguardas por não poderem excluir uma ajuda significativa a principiantes em armas biológicas. Os melhores modelos de pesos abertos ficam a menos de um ano dos fechados: quem governa modelos de fronteira ou os compra deve levar estes factos ao questionário do fornecedor, citando o International AI Safety Report.
As três categorias de risco, lidas como um registo de riscos
Lidas como registo de riscos, as três categorias dão fontes transponíveis para o dossiê do leitor, com o International AI Safety Report (no resumo alargado) como citação.
Riscos de utilização abusiva
Conteúdos criminosos: um estudo citado estima que 96 % dos vídeos deepfake são pornográficos, e as pessoas tomam texto de IA por humano 77 % das vezes; as marcas de água podem ser removidas (ver artigo 50.º). Manipulação: a persuasão cresce em laboratório com a computação, sem prevalência medida. Cibernético: um agente identificou 77 % das vulnerabilidades em software real, e o NCSC britânico dá 95 a 100 % de confiança a uma ofensiva cibernética mais eficaz com IA até 2027. Biológico e químico: um modelo superou 94 % dos peritos em virologia em protocolos laboratoriais.
Riscos de mau funcionamento
Fiabilidade: fabricações, código defeituoso, conselhos médicos enganadores; e, com os agentes, menos ocasiões para intervir e erros que se propagam entre agentes (inquérito a 67 agentes implantados): daí os controlos de segurança da IA agêntica que assumem o erro. Perda de controlo: em laboratório, modelos instruídos a atingir um objetivo «a todo o custo» desativaram mecanismos de supervisão simulados, e os investigadores divergem quanto à probabilidade real; no registo, um item de vigilância com gatilho, não um risco pontuado.
Riscos sistémicos
Trabalho: pelo menos 700 milhões de utilizadores semanais; cerca de 60 % dos empregos nas economias avançadas e 40 % nas emergentes provavelmente afetados; o emprego em início de carreira nas profissões mais expostas cai desde o final de 2022. Autonomia humana: a taxa de deteção em colonoscopia ficou cerca de 6 pontos abaixo após meses de procedimentos assistidos por IA, e, numa experiência com 2 784 participantes, as pessoas corrigiram menos os erros da IA quando corrigir exigia esforço. O relatório chama-lhe enviesamento de automatização; o artigo 14.º chama-lhe o que a supervisão deve evitar. O considerando 110 dá exemplos de risco sistémico e o Apêndice 1 do código reduz a lista a quatro riscos «selecionados»; a tabela alinha-os com o International AI Safety Report. <table header-row=”true”> <tr> <td>Conclusão do relatório</td> <td>Exemplo do considerando 110</td> <td>Código, Apêndice 1 (riscos selecionados)</td> </tr> <tr> <td>Virologia acima de 94 % dos peritos</td> <td>Químico, biológico, radiológico, nuclear</td> <td>QBRN</td> </tr> <tr> <td>Agente encontra 77 % das vulnerabilidades; NCSC para 2027</td> <td>Capacidades cibernéticas ofensivas</td> <td>Ofensiva cibernética</td> </tr> <tr> <td>Supervisão simulada desativada; consciência de avaliação</td> <td>Controlo e alinhamento com a intenção humana; autorreplicação</td> <td>Perda de controlo</td> </tr> <tr> <td>Persuasão cresce com a computação; deepfakes</td> <td>Conteúdos ilegais, falsos ou discriminatórios; processos democráticos</td> <td>Manipulação nociva</td> </tr> <tr> <td>Enviesamento de automatização; perda de competências; emprego</td> <td>Saúde e segurança públicas; segurança económica</td> <td>Outros, quando pertinente</td> </tr> </table> O alinhamento é nosso, não da Comissão; dá ao auditor um número de página num documento apoiado por 30 governos (método: risco de IA).
International AI Safety Report e artigo 55.º: onde entra no dossiê de um prestador de GPAI
O âmbito dos modelos de IA de finalidade geral com risco sistémico vem do artigo 51.º: capacidades de elevado impacto, presumidas acima de 10\^25 operações de vírgula flutuante, ou designação pela Comissão, inclusive após alerta qualificado do painel científico. O artigo 55.º aplica-se desde 2 de agosto de 2025 (modelos anteriores: até 2 de agosto de 2027); o Serviço para a IA aplica as coimas do artigo 101.º, até 15 milhões de euros ou 3 % do volume de negócios mundial, desde 2 de agosto de 2026. O Omnibus Digital (Regulamento (UE) 2026/1744) não tocou neste capítulo. O artigo 55.º, n.º 1, pede: a) avaliar o modelo com protocolos normalizados «que reflitam o estado da arte», com testes adversariais documentados; b) avaliar e atenuar os riscos sistémicos a nível da União e as suas fontes; c) acompanhar, documentar e comunicar os incidentes graves ao Serviço para a IA; d) cibersegurança adequada. Sem norma harmonizada, a via é um código aprovado: o código de boas práticas data de 10 de julho de 2025, com 22 signatários e dez compromissos. Segundo a síntese da BCLP, a medida 9.3 fixa o relatório inicial em 2 dias (infraestruturas críticas), 5 dias (violação grave de cibersegurança, incluindo exfiltração de pesos), 10 dias (morte) e 15 dias (outros danos graves), intermédios pelo menos de quatro em quatro semanas, final até 60 dias após a resolução. É aqui que o International AI Safety Report entra: o código pede a identificação dos riscos sistémicos e das suas fontes (capacidades e propensões do modelo), e o relatório é a declaração pública mais autorizada do que elas são hoje: a citação natural para o «estado da arte» da alínea a). A segunda Key Update cabe no relatório de modelo: injeção de prompts com sucesso cerca de metade das vezes em dez tentativas; 250 documentos maliciosos bastam para envenenar o treino; desaprendizagem revertida com menos de 100 exemplos de afinação; segurança dos pesos como área mais fraca dos compromissos voluntários. O que não é: uma avaliação do modelo do leitor. Não substitui os testes adversariais do artigo 55.º nem a comunicação de incidentes de IA; um model card datado torna a ligação visível. E desde 2 de agosto de 2026 o artigo 90.º permite ao painel científico alertar o Serviço para a IA sobre «um risco concreto identificável a nível da União»: se o dossiê divergir do relatório, tem de dizer porquê.
O que significa para os responsáveis pela implantação e os prestadores que não são de fronteira
Para a maioria dos leitores, que não treina modelos de fronteira, o International AI Safety Report serve em cinco lugares. Identificação de riscos. O artigo 9.º exige que o prestador de um sistema de IA de risco elevado identifique os riscos razoavelmente previsíveis; a ISO/IEC 23894 pede fontes de risco (guia de gestão do risco); o NIST AI 600-1 enumera doze riscos da IA generativa. O relatório diz se cada um está medido, observado ou teórico, e sustenta a proporcionalidade da avaliação de impacto. Supervisão humana. A colonoscopia e o enviesamento de automatização mostram que a supervisão se degrada com o uso. O artigo 14.º exige supervisores conscientes desse enviesamento; o artigo 26.º fixa o dever do responsável pela implantação. Meça anulações, faça rodar revisores, mantenha uma linha de base sem IA. Risco de terceiros. Os modelos de pesos abertos não podem ser retirados e as suas salvaguardas removem-se com facilidade: a diligência devida tem de perguntar que salvaguardas sobrevivem à afinação e quem monitoriza a versão implantada. Literacia em IA. O artigo 4.º exige, desde 2 de fevereiro de 2025, literacia suficiente em IA. O resumo executivo de 3 páginas, em seis línguas, é material pronto; as capacidades irregulares são a lição para todos (literacia em IA). Transparência. Marcas de água removíveis, forjáveis ou degradáveis fazem da marcação um controlo, não uma prova. O artigo 50.º continua a exigi-la (transição até 2 de dezembro de 2026): combine marcação, divulgação e deteção. Governação. O comité de governação de IA deve registar em ata a edição usada e a data da próxima revisão; «o relatório Bengio», sem data, não é evidência.
Seis conclusões do relatório a transpor para os seus controlos
O International AI Safety Report não prescreve nada; estas seis conclusões traduzem-se mesmo assim em controlos e evidência. <table header-row=”true”> <tr> <td>Conclusão de 2026</td> <td>Controlo</td> <td>Artefacto de evidência</td> </tr> <tr> <td>Lacuna de avaliação: os testes não preveem o desempenho real</td> <td>Monitorização pós-comercialização com métricas de produção</td> <td>Plano de monitorização, revisões de deriva datadas</td> </tr> <tr> <td>A injeção de prompts tem sucesso cerca de metade das vezes em dez tentativas</td> <td>Defesa em profundidade: filtros, privilégio mínimo, aprovação humana das ações de agentes</td> <td>Relatórios de red teaming, configurações, registos de aprovação</td> </tr> <tr> <td>Bastam 250 documentos maliciosos para envenenar o treino</td> <td>Proveniência dos dados e hashes dos conjuntos na lista de materiais</td> <td>Registos de linhagem, hashes, atestações do fornecedor</td> </tr> <tr> <td>Marcas de água e sinais de proveniência removíveis ou forjáveis</td> <td>Artigo 50.º em camadas: marcação, divulgação e deteção</td> <td>Testes de marcação, textos de divulgação, procedimento de deteção</td> </tr> <tr> <td>Enviesamento de automatização e perda de competências</td> <td>Métricas de supervisão, verificações sem assistência, rotação de revisores</td> <td>Taxas de anulação, registos de escalada, linha de base</td> </tr> <tr> <td>Os erros propagam-se entre agentes; quadros de identidade imaturos</td> <td>Inventário de agentes com âmbitos, interruptor de paragem, portas de aprovação</td> <td>Registo de inventário, logs de execução, paragem testada</td> </tr> </table> Cada controlo deixa um registo datado. Um registo de IA com os agentes, ferramentas e âmbitos é a condição prévia dos outros controlos de agentes, e quadros de identidade «numa fase inicial» são motivo para o manter desde já. Pesos abertos: sétima linha, cláusulas contratuais e evidência do fornecedor. Ver agentes de IA autónomos e documentação do sistema para a lista de materiais. É a parte do International AI Safety Report que mais depressa vira trabalho.
O dilema da evidência, e como documentar uma decisão sob ele
A ideia mais citada é também a mais útil para um auditor: no «dilema da evidência», agir com evidência escassa arrisca consolidar medidas ineficazes, esperar por dados conclusivos pode deixar a sociedade exposta. Por trás, quatro desafios: lacunas científicas, assimetrias de informação, falhas de mercado, desenho institucional e coordenação. Nem o Regulamento IA nem a ISO/IEC 42001 pedem que o leitor resolva o dilema; pedem uma decisão documentada, com sete partes: a questão; a edição e a secção invocadas, com a data; a incerteza reconhecida; o controlo escolhido e a sua proporcionalidade; o gatilho de revisão (nova edição, Key Update, orientação da Comissão, alerta qualificado do artigo 90.º, incidente); o responsável; a data. Os compromissos «se-então» dos quadros de segurança de fronteira (um limiar de capacidade desencadeia uma resposta predefinida) servem de modelo para a cláusula de gatilho. Escrita assim, uma decisão com evidência incompleta torna-se defensável: é o apetite pelo risco na prática e a responsabilização em IA no papel. Escrita como «considerámos o relatório Bengio», é um passivo. O International AI Safety Report serve de ponto de partida porque data e gradua a sua própria evidência.
Limites do International AI Safety Report como evidência
Quatro limites devem constar de qualquer dossiê que cite o International AI Safety Report. Não recomenda nada: diz o que a ciência afirma, não o que a organização devia ter feito. A obrigação vem da lei, da norma ou do código, e o dossiê tem de nomear essa fonte. O apoio é largo, mas incompleto: trinta países e organizações, incluindo o Reino Unido, a China e a União Europeia, mas não os Estados Unidos. Em Bruxelas ou em Londres cita-se sem reservas; num processo norte-americano, com esse contexto. Grande parte da evidência é de laboratório, como o relatório diz sobre perda de controlo, consciência de avaliação e persuasão; os dados de prevalência real são limitados e a eficácia das salvaguardas incerta. Uma conclusão de capacidade não é uma conclusão de dano; registe qual invoca. Os números envelhecem em meses: benchmarks, taxas de contorno e horizontes de tarefa mudaram entre janeiro de 2025 e fevereiro de 2026, e as Key Updates existem por isso. O mesmo vale para os quadros novos de 2025, do código da UE ao quadro de reporte de Hiroshima do G7 (ver princípios da OCDE), de eficácia ainda desconhecida. E nada substitui a avaliação do modelo (artigo 55.º) nem a avaliação de risco do sistema (artigo 9.º), que uma auditoria de IA verificará à parte.
Perguntas frequentes
O que é o International AI Safety Report? É um balanço científico independente das capacidades e dos riscos da IA de finalidade geral, encomendado na cimeira de Bletchley Park de 2023 e presidido por Yoshua Bengio. A edição de 2026, de 3 de fevereiro de 2026, foi escrita por mais de 100 peritos e apoiada por mais de 30 países e organizações, do relatório integral ao resumo executivo de 3 páginas em seis línguas. Quem escreve o International AI Safety Report e é independente? Um grupo de peritos independentes, dirigido pelo presidente, com total discrição sobre o conteúdo. Um painel consultivo nomeado pelos países apoiantes, pela UE, pela ONU e pela OCDE revê as versões preliminares. O relatório afirma que não representa nenhum governo e não subscreve nenhuma abordagem política; o secretariado é britânico, daí a referência DSIT 2026/001 na edição de 2026. O International AI Safety Report é juridicamente vinculativo? Não. Não cria obrigações nem nomeia disposições. A relevância é indireta: o Regulamento IA pede aos prestadores de modelos com risco sistémico métodos de avaliação «que reflitam o estado da arte» e a identificação das fontes dos riscos sistémicos, e o relatório é a declaração pública mais autorizada desse estado da arte. A obrigação vem do artigo 55.º ou do código. Os Estados Unidos apoiaram o relatório de 2026? Não. Segundo a TIME, os Estados Unidos deram retorno sobre versões preliminares e recusaram assinar a versão final, ao contrário do ano anterior; o Reino Unido, a China e a União Europeia apoiaram a edição de 2026. O relatório não depende do aval de nenhum governo, mas um dossiê que o cite em contexto norte-americano deve anotar essa posição e a data. Como se relaciona o relatório com o Regulamento IA e com o código de boas práticas GPAI? O artigo 55.º exige aos prestadores com risco sistémico avaliação com protocolos do estado da arte, atenuação dos riscos sistémicos e das suas fontes. O código de boas práticas, com 22 signatários, transforma isso em dez compromissos e nomeia quatro riscos selecionados: QBRN, perda de controlo, ofensiva cibernética e manipulação nociva. As três categorias do relatório alinham-se com essa lista (IA de finalidade geral). Com que frequência é atualizado, e o que é o dilema da evidência? Uma edição completa por ano desde janeiro de 2025, com Key Updates pelo meio, a 15 de outubro e a 25 de novembro de 2025. O dilema da evidência é a posição do decisor: agir com evidência escassa arrisca consolidar medidas ineficazes; esperar por dados conclusivos arrisca deixar a sociedade exposta. Para uma empresa: documentar cada decisão com a edição invocada e um gatilho de revisão.
Conclusão
O International AI Safety Report 2026 não dirá ao leitor o que fazer. Dirá a reguladores e auditores o que a ciência afirmava em fevereiro de 2026, e o ónus de explicar qualquer desvio passa a ser da organização. Para um prestador de modelos com risco sistémico, é a linha de referência do artigo 55.º e do código. Para um responsável pela implantação, é um catálogo de fontes de risco, um aviso sobre a supervisão que se desgasta com o uso e uma razão para verificar cada salvaguarda de fornecedor. Cite a edição, date a decisão, nomeie o gatilho que a reabrirá. A AI Sigil mantém cada sistema de IA como um registo com os seus riscos, controlos e evidências, para que, quando a próxima edição mover a linha de base, se veja num só lugar que decisões ela toca.