Confiança em GenAI Aumenta Globalmente Apesar de Lacunas em Salvaguardas de IA
A SAS, um líder global em dados e IA, revelou uma nova pesquisa que explora o uso, impacto e confiabilidade da IA. O Relatório de Impacto de Dados e IA da IDC: O Imperativo da Confiança, encomendado pela SAS, descobriu que líderes de TI e negócios relatam ter maior confiança na IA generativa do que em qualquer outra forma de IA.
A pesquisa global sobre o uso e adoção da IA também revelou que apenas 40% das organizações estão investindo para tornar os sistemas de IA confiáveis por meio de governança, explicabilidade e salvaguardas éticas, embora as organizações que priorizam uma IA confiável tenham 60% mais chances de dobrar o retorno sobre o investimento (ROI) de projetos de IA. Paradoxalmente, entre aqueles que reportam o menor investimento em sistemas de IA confiáveis, a GenAI (por exemplo, ChatGPT) foi vista como 200% mais confiável do que a IA tradicional (por exemplo, aprendizado de máquina), apesar de esta última ser a forma de IA mais estabelecida, confiável e explicável.
“Nossa pesquisa mostra uma contradição: formas de IA com interatividade semelhante à humana e familiaridade social parecem incentivar a maior confiança, independentemente da real confiabilidade ou precisão,” disse a diretora de pesquisa da prática de IA e automação na IDC.
Tecnologias de IA Emergentes Evocam Maior Confiança
No geral, o estudo descobriu que as implementações de IA mais confiáveis eram tecnologias emergentes, como GenAI e IA agentiva, em comparação com formas mais estabelecidas de IA. Quase metade dos entrevistados (48%) relatou “confiança total” na GenAI, enquanto um terço disse o mesmo para a IA agentiva (33%). A forma de IA menos confiável é a IA tradicional – menos de um em cinco (18%) indicou confiança total.
Apesar de relatar alta confiança na GenAI e na IA agentiva, os entrevistados expressaram preocupações, incluindo privacidade de dados (62%), transparência e explicabilidade (57%), e uso ético (56%).
Desafios de Governança de IA Comprometem Impacto e ROI
O estudo mostrou um rápido aumento no uso da IA – particularmente da GenAI – que rapidamente superou a IA tradicional em visibilidade e aplicação (81% vs. 66%). Isso desencadeou um novo nível de riscos e preocupações éticas.
A pesquisa identificou um desalinhamento em como as organizações confiam na IA em comparação com quão confiável a tecnologia realmente é. De acordo com o estudo, enquanto quase 8 em 10 (78%) organizações afirmam confiar totalmente na IA, apenas 40% investiram para tornar os sistemas demonstravelmente confiáveis através de governança de IA, explicabilidade e salvaguardas éticas.
A pesquisa também mostrou uma baixa prioridade atribuída à implementação de medidas de IA confiáveis ao operacionalizar projetos de IA. Entre as três principais prioridades organizacionais dos entrevistados, apenas 2% selecionaram o desenvolvimento de um quadro de governança de IA, e menos de 10% relataram o desenvolvimento de uma política de IA responsável. No entanto, despriorizar medidas de IA confiáveis pode impedir essas organizações de realizar totalmente seus investimentos em IA no futuro.
Fundamentos de Dados Fracos e Governança Estagnam a IA
À medida que os sistemas de IA se tornam mais autônomos e profundamente integrados em processos críticos, os fundamentos de dados também se tornam mais importantes. A qualidade, diversidade e governança dos dados influenciam diretamente os resultados da IA, tornando estratégias de dados inteligentes essenciais para realizar benefícios (por exemplo, ROI, ganhos de produtividade) e mitigar riscos.
O estudo identificou três principais obstáculos que impedem o sucesso nas implementações de IA: infraestrutura de dados fraca, governança deficiente e falta de habilidades em IA. Quase 49% das organizações citam fundações de dados que não são centralizadas ou ambientes de dados em nuvem não otimizados como uma barreira significativa. Essa preocupação principal foi seguida pela falta de processos de governança de dados suficientes (44%) e pela escassez de especialistas qualificados dentro de suas organizações (41%).
Os entrevistados relataram que a principal questão com a gestão dos dados usados nas implementações de IA é a dificuldade em acessar fontes de dados relevantes (58%). Outras preocupações importantes incluíram questões de privacidade e conformidade de dados (49%) e qualidade de dados (46%).
“Para o bem da sociedade, empresas e funcionários – a confiança na IA é imperativa,” disse o CTO da SAS. “Para alcançar isso, a indústria de IA deve aumentar a taxa de sucesso das implementações, os humanos devem revisar criticamente os resultados da IA, e a liderança deve capacitar a força de trabalho com IA.”
