Ética em IA: Começa com Inovadores Responsáveis e Governança de IA
A inteligência artificial (IA) está se tornando onipresente nas empresas, mas isso apresenta desafios significativos. Durante o evento SAS Innovate 2025, foi discutido que 58% dos funcionários utilizam regularmente IA generativa (GenA), e 60% deles fazem isso sem a supervisão da empresa, o que coloca as organizações em risco.
A Importância da Governança em IA
Os especialistas enfatizaram durante o evento que a ética e a governança são ingredientes vitais para a implementação segura da IA nas empresas. A governança de IA fornece uma estrutura e um conjunto de ferramentas para garantir que a IA seja confiável e que a organização esteja protegida.
Reggie Townsend, vice-presidente da Prática de Ética de Dados da SAS, afirmou que “a inovação responsável começa antes da primeira linha de código ser escrita”. Ele comparou a IA a um espelho que reflete tanto o melhor quanto o pior da humanidade, destacando que a IA pode ser uma força multiplicadora da engenhosidade humana ou da fraqueza humana.
“Precisamos garantir que a IA nos ajude a experimentar um mundo melhor, e isso começa com inovadores responsáveis e governança de IA”, disse Townsend. A governança torna possível monitorar e responder quando os sistemas de IA não funcionam adequadamente.
A Governança está Chegando à IA Empresarial
Segundo pesquisas da McKinsey, 42% das organizações relataram que a IA melhorou suas operações, e 34% afirmaram que a IA levou a uma maior confiança do cliente. Assim, não é surpreendente que 25% das grandes empresas planejem investir pesadamente em suporte à governança de IA.
A Townsend também destacou a SAS Viya, que possui recursos de governança integrados, como o recém-lançado Mapa de Governança de IA, disponível gratuitamente para os usuários da SAS. As organizações podem usá-lo para avaliar sua maturidade em governança de IA em quatro áreas e traçar um caminho a seguir.
Governança Holística de IA
Uma solução holística de governança de IA da SAS será lançada para visualização privada ainda este ano. “Os limites são necessários para a IA: a única coisa melhor do que uma decisão rápida é uma decisão em que você pode confiar”, afirmou Townsend.
Governança de IA na Saúde
Mubaraka Ibrahim, chefe de IA dos Serviços de Saúde dos Emirados Árabes Unidos, apresentou inovações significativas em IA. O Emirates Health Services possui mais de 130 instalações e planeja usar IA para se tornar um dos melhores provedores de saúde do mundo.
O plano de inteligência dos Serviços de Saúde utiliza 40 modelos de IA para previsão e análise em saúde, incluindo a previsão de risco de mortalidade para pacientes em unidades de terapia intensiva e modelos específicos para vigilância de doenças.
Ibrahim ressaltou que “a IA é uma força que pode elevar a saúde” e pode ser utilizada para construir confiança entre provedores e pacientes.
O Dr. Michel van Genderen, do Centro Médico Erasmus, na Holanda, também compartilhou como a IA está ajudando sua organização a lidar com o aumento da demanda em meio à escassez de pessoal de saúde. Ele mencionou que utiliza IA em cirurgias respiratórias apenas se confia em suas conclusões e se as decisões são explicáveis.
“Usamos a IA para redesenhar nossa maneira de trabalhar dentro de um quadro de governança responsável”, disse van Genderen. “A IA nos permitiu fazer melhorias significativas nos cuidados respiratórios em todos os turnos.”
