Aviso sobre Inteligência Artificial Agentic
A polícia da cidade emitiu um alerta aos cidadãos sobre a “Inteligência Artificial Agentic”. O comissário da polícia expressou preocupações sobre a entrada de agentes robóticos autônomos em setores críticos, como bancos, hospitais e redes de energia. Esses agentes digitais realizam tarefas de forma independente, sem intervenção humana, levantando preocupações sobre a perda de controle sobre eles.
O que é a Inteligência Artificial Agentic?
A Inteligência Artificial tem evoluído de “chatbots” que apenas respondem perguntas para sistemas capazes de tomar decisões e executar tarefas de forma autônoma. Por exemplo, enquanto uma IA comum informaria sobre o clima, uma IA Agentic poderia fechar janelas e ajustar a temperatura do ar condicionado se perceber que o clima está ruim.
Implicações e Riscos
Essa autonomia representa um grande desafio. Esses agentes podem tomar milhares de decisões em minutos sem supervisão humana, o que pode levar a perigos significativos se ocorrer um pequeno erro. Existe também o risco de que cibercriminosos possam desviar o comportamento desses agentes, forçando-os a cometer atos ilícitos. Além disso, pode ocorrer o que é chamado de “Comportamento Não Intencional”, onde o agente interpreta mal a tarefa atribuída e segue um caminho errado para alcançar o objetivo.
Governança e Controle
É fundamental estabelecer regras rigorosas sobre a liberdade que esses agentes devem ter e quais dados podem acessar. Devem ser projetadas “Estruturas de Confiança” para garantir que a permissão humana seja necessária antes de decisões cruciais serem tomadas. Especialistas em tecnologia alertam que, se não controlarmos sabiamente a velocidade da automação, as perdas podem superar os benefícios.
