A inteligência artificial não é mais um assunto de nicho, mas sim central para o design de produtos e estratégias empresariais. O desafio real é equilibrar a proteção das pessoas enquanto se permite o crescimento no mundo impulsionado pela IA.
A OpenAI introduziu controles parentais para o ChatGPT, permitindo que os pais vinculem suas contas às de seus adolescentes e ajustem as configurações para uma experiência “segura e apropriada para a idade”. Enquanto isso, a Meta anunciou que treinará seus chatbots de IA para evitar discutir tópicos sensíveis com adolescentes, como suicídio e distúrbios alimentares, redirecionando-os para recursos de apoio profissional.
À medida que a União Europeia inicia uma nova era de supervisão da inteligência artificial, as empresas em todo o mundo estão lidando com as implicações do inovador Ato de IA da UE. A regulamentação classifica os sistemas de IA com base em seu potencial de dano, estabelecendo requisitos rigorosos para aplicações de alto risco, como aquelas em contratações ou diagnósticos médicos.
Em 2023, o Departamento de Tecnologia da Califórnia lançou um sandbox de inteligência artificial que permite que os funcionários estaduais experimentem como integrar a IA nas operações do setor público de forma segura. As iniciativas de sandbox de IA aumentam a produtividade dos funcionários estaduais enquanto garantem alta segurança.
A pesquisa da SAS revela que a confiança em inteligência artificial generativa (GenAI) está crescendo globalmente, apesar de apenas 40% das organizações investirem em medidas de segurança e governança. Mesmo com preocupações sobre privacidade e ética, quase metade dos entrevistados afirmou ter “confiança total” em GenAI, em contraste com apenas 18% para a inteligência artificial tradicional.
O projeto Red Cell trabalha para desafiar suposições e promover abordagens alternativas para os desafios de política externa e de segurança nacional dos EUA. A inovação em inteligência artificial (IA) está transformando o mundo, levantando questões éticas e redefinindo o que significa ser humano, enquanto a competição global por essa tecnologia intensifica as tensões geopolíticas.
O Paquistão introduziu uma ambiciosa Política Nacional de IA com o objetivo de construir um mercado doméstico de IA de US$ 2,7 bilhões em cinco anos. A política se baseia em seis pilares principais: inovação, habilidades, uso seguro e ético, transformação setorial, infraestrutura e colaboração internacional.
A governança da inteligência artificial (IA) não é apenas uma responsabilidade do governo; é uma obrigação organizacional. Ao alinhar suas políticas internas com padrões globais, as instituições ganesas e africanas podem garantir que a IA sirva ao bem público e fortaleça valores democráticos.
A transformação econômica da IA começou, com empresas como IBM e Salesforce demitindo funcionários e substituindo-os por chatbots de IA. Com a adoção acelerada da IA, governos devem agir rapidamente para implementar políticas que protejam os trabalhadores e mantenham a estabilidade econômica.
A Anthropic lançou o Petri, uma ferramenta de auditoria de segurança de IA de código aberto, que utiliza agentes autônomos para testar e sinalizar comportamentos arriscados em modelos de linguagem de grande porte (LLMs). O Petri visa tornar a pesquisa em segurança de IA mais colaborativa e padronizada, permitindo auditorias automatizadas e contínuas.