Este guia fornece um framework de nível CISO para proteger agentes de IA e identidades não-humanas (NHIs). À medida que os agentes de IA se tornam trabalhadores digitais autônomos, os desafios de segurança se multiplicam, exigindo uma governança proativa para evitar riscos como a exploração de credenciais e a manipulação da cadeia de suprimentos.
A revolução da inteligência artificial já está aqui, transformando indústrias e a vida cotidiana. A chave para garantir que o poder da IA seja utilizado de forma responsável está na construção de uma infraestrutura de segurança, colaboração entre indústrias e alinhamento regulatório.
A recente decisão do Secretário de Comércio dos Estados Unidos, Howard Lutnick, de rebatizar o Instituto de Segurança de IA dos EUA como Centro de Padrões e Inovação em IA reflete uma mudança nas prioridades nacionais em relação ao desenvolvimento de IA. Essa mudança sinaliza uma ênfase maior na inovação e competitividade global, em detrimento da mitigação de riscos e da responsabilidade pública.
A Pillar Security desenvolveu um framework de segurança em IA que visa garantir operações seguras para tecnologia de IA e seus agentes. O framework, chamado Secure AI Lifecycle Framework (SAIL), inclui uma biblioteca detalhada de riscos específicos de IA e diretrizes para um programa robusto de segurança em IA.
A proliferação da IA nas aplicações empresariais está introduzindo um novo tipo complexo de tráfego de rede: agentes de IA autônomos fazendo chamadas API. Essa “trafegação agente” representa uma camada ausente na infraestrutura atual de IA, criando desafios significativos em visibilidade, segurança e gerenciamento de custos.
Os copilotas de IA, como o Copilot da Microsoft, apresentam novos riscos de segurança, privacidade e conformidade que podem levar a violações de dados. É crucial que as organizações implementem medidas de governança rigorosas para proteger dados sensíveis e evitar consequências legais.
A emergência da inteligência artificial (IA) transformou fundamentalmente o cenário da cibersegurança, sendo utilizada tanto como solução quanto como ameaça. Profissionais de cibersegurança devem evoluir suas habilidades para incluir governança impulsionada por IA, visibilidade de riscos e supervisão de conformidade.
Nova York está prestes a introduzir uma das primeiras leis que regulam modelos avançados de IA nos Estados Unidos. A Lei de Segurança e Educação em IA Responsável (RAISE) exigirá que grandes desenvolvedores de IA publiquem protocolos de segurança e avaliações de risco antes de liberar modelos avançados no estado.
O Senado do Estado de Nova York aprovou um projeto de lei inovador sobre a segurança da inteligência artificial, conhecido como RAISE Act, que visa impor salvaguardas críticas no desenvolvimento e implementação de tecnologias de IA. O senador Andrew Gounardes enfatizou a necessidade da legislação, comparando-a à obrigatoriedade de cintos de segurança em carros, questionando por que permitir o uso de IA poderosa sem proteções básicas.
O objetivo da Lei RAISE de Nova York, que visa proteger as pessoas dos danos da inteligência artificial (IA), é admirável, mas pode transformar um desafio técnico em um fardo burocrático. A lei impõe requisitos significativos que podem priorizar a conformidade em detrimento dos resultados reais de segurança.