A revolução da inteligência artificial já está aqui, transformando indústrias e a vida cotidiana. A chave para garantir que o poder da IA seja utilizado de forma responsável está na construção de uma infraestrutura de segurança, colaboração entre indústrias e alinhamento regulatório.
A recente decisão do Secretário de Comércio dos Estados Unidos, Howard Lutnick, de rebatizar o Instituto de Segurança de IA dos EUA como Centro de Padrões e Inovação em IA reflete uma mudança nas prioridades nacionais em relação ao desenvolvimento de IA. Essa mudança sinaliza uma ênfase maior na inovação e competitividade global, em detrimento da mitigação de riscos e da responsabilidade pública.
A Pillar Security desenvolveu um framework de segurança em IA que visa garantir operações seguras para tecnologia de IA e seus agentes. O framework, chamado Secure AI Lifecycle Framework (SAIL), inclui uma biblioteca detalhada de riscos específicos de IA e diretrizes para um programa robusto de segurança em IA.
A proliferação da IA nas aplicações empresariais está introduzindo um novo tipo complexo de tráfego de rede: agentes de IA autônomos fazendo chamadas API. Essa “trafegação agente” representa uma camada ausente na infraestrutura atual de IA, criando desafios significativos em visibilidade, segurança e gerenciamento de custos.
Os copilotas de IA, como o Copilot da Microsoft, apresentam novos riscos de segurança, privacidade e conformidade que podem levar a violações de dados. É crucial que as organizações implementem medidas de governança rigorosas para proteger dados sensíveis e evitar consequências legais.
A emergência da inteligência artificial (IA) transformou fundamentalmente o cenário da cibersegurança, sendo utilizada tanto como solução quanto como ameaça. Profissionais de cibersegurança devem evoluir suas habilidades para incluir governança impulsionada por IA, visibilidade de riscos e supervisão de conformidade.
Nova York está prestes a introduzir uma das primeiras leis que regulam modelos avançados de IA nos Estados Unidos. A Lei de Segurança e Educação em IA Responsável (RAISE) exigirá que grandes desenvolvedores de IA publiquem protocolos de segurança e avaliações de risco antes de liberar modelos avançados no estado.
O Senado do Estado de Nova York aprovou um projeto de lei inovador sobre a segurança da inteligência artificial, conhecido como RAISE Act, que visa impor salvaguardas críticas no desenvolvimento e implementação de tecnologias de IA. O senador Andrew Gounardes enfatizou a necessidade da legislação, comparando-a à obrigatoriedade de cintos de segurança em carros, questionando por que permitir o uso de IA poderosa sem proteções básicas.
O objetivo da Lei RAISE de Nova York, que visa proteger as pessoas dos danos da inteligência artificial (IA), é admirável, mas pode transformar um desafio técnico em um fardo burocrático. A lei impõe requisitos significativos que podem priorizar a conformidade em detrimento dos resultados reais de segurança.
Os legisladores do estado de Nova York aprovaram um projeto de lei que visa prevenir que modelos de IA de empresas como OpenAI, Google e Anthropic contribuam para cenários de desastre. Se assinado, o projeto de lei exigirá que os maiores laboratórios de IA publiquem relatórios de segurança e segurança sobre seus modelos de IA avançados.