Neste artigo da Help Net Security, Brooke Johnson, Conselheira Jurídica Chefe da Ivanti, discute as responsabilidades legais na governança da IA e a importância da colaboração entre departamentos para garantir o uso ético e seguro da tecnologia. Ela enfatiza que a governança proativa da IA não é apenas uma opção, mas uma necessidade empresarial para mitigar riscos legais e éticos.
O artigo discute como operacionalizar a inteligência artificial responsável nas organizações, enfatizando a importância de traduzir princípios éticos em procedimentos práticos. Isso inclui a criação de estruturas operacionais que garantam governança de modelos, design de experiência e integração adequada da IA.
Em 2 de junho, a legislatura do Texas aprovou o Texas Responsible Artificial Intelligence Governance Act, que agora segue para a assinatura do governador. Se promulgada, a lei será a mais abrangente sobre a governança da inteligência artificial aprovada por uma legislatura estadual até o momento.
Um estudo global sobre a confiança em Inteligência Artificial revela que mais da metade das pessoas no mundo não confia em sistemas de IA, refletindo uma tensão entre os benefícios evidentes e os riscos percebidos. Apesar de 66% das pessoas usarem IA regularmente, apenas 46% estão dispostas a confiar nela, evidenciando uma lacuna na governança e compreensão sobre o uso da tecnologia.
Neste entrevista com a Help Net Security, Aaron McCray, CISO da CDW, discute como a IA está transformando o papel do CISO de um guardião tático de cibersegurança para um conselheiro estratégico de risco empresarial. Ele compartilha insights sobre desafios práticos, novas habilidades necessárias e a construção de culturas de segurança fluentes em IA.
À medida que as empresas se apressam para integrar a IA em suas operações, enfrentam desafios crescentes em torno da confiança, governança e risco. Sem uma abordagem clara e unificada para a governança de dados e IA, as organizações correm o risco de violações de conformidade e danos à reputação, falhando em desbloquear o valor total de seus investimentos em IA.
Em 22 de maio, a Câmara dos Representantes dos EUA aprovou uma proposta orçamentária incluindo uma moratória de dez anos sobre a regulamentação da IA por estados e municípios. Essa proposta visa anular diversas leis estaduais existentes sobre IA e impedir que os estados aprovem novas leis.
Em 2020, a jornalista Karen Hao alertou sobre uma tendência perigosa em IA: o “ethics-washing”. Muitas organizações ainda se encontram presas nesse ciclo, não por falta de intenção, mas por falta de clareza operacional.
As seguradoras agora têm um recurso gratuito para ajudar a desenvolver suas estruturas de governança de IA, graças a uma nova ferramenta de avaliação online oferecida pela empresa SAS. A ferramenta permite que as empresas identifiquem onde estão em sua jornada de governança de IA e fornece recomendações personalizadas após a conclusão da avaliação.
A inteligência artificial (IA) tem sido adotada de forma incremental nas funções essenciais das empresas, mas isso gera preocupações sobre a segurança e a conformidade. A falta de rastreabilidade dos dados se torna uma crise de governança em ambientes baseados em modelos de linguagem, onde a origem e o tratamento dos dados muitas vezes não são claros.