Líderes de IA pedem foco em ética, governança e sustentabilidade
Com a aproximação do Dia da Apreciação da IA, líderes da indústria aproveitam a oportunidade para refletir sobre o impacto crescente da inteligência artificial na Austrália e em todo o mundo, enfatizando tanto o potencial transformador da tecnologia quanto os desafios urgentes de governança, ética e sustentabilidade.
Oportunidades e Desafios no Uso da IA
A aplicação da IA se tornou comum em vários setores, incluindo varejo, finanças, cibersegurança e recursos humanos. Hayley Fisher, gerenciadora da Adyen na ANZ, destaca como a IA está passando de uma novidade para uma necessidade no varejo, com um aumento de 45% no uso de compras impulsionadas por IA no último ano. “Seja ajudando os australianos a planejar refeições ou montar um traje, a IA está se tornando rapidamente o companheiro de compras preferido”, afirma Fisher.
Além disso, a IA é cada vez mais utilizada para combater fraudes, aumentar taxas de conversão e reduzir custos operacionais. Fisher observa que as empresas que aproveitam a IA de forma mais eficaz estão utilizando-a para melhorar os resultados tanto para as equipes quanto para os clientes.
Riscos Associados à IA
Contudo, à medida que o entusiasmo pela IA cresce, a complexidade dos riscos envolvidos também aumenta. Andrew Kay, diretor de Engenharia de Sistemas da APJ na Illumio, alerta: “A IA está sendo usada cada vez mais por agentes mal-intencionados para intensificar seus ataques.” Ele menciona um incidente de destaque envolvendo um trabalhador financeiro em um banco multinacional de Hong Kong, que foi manipulado a transferir USD $25 milhões usando um golpe de deepfake no Zoom. Entretanto, Kay observa que a IA também está aprimorando as defesas: ferramentas como detecção e resposta em nuvem baseadas em IA podem ajudar as organizações a detectar e limitar a propagação de brechas em tempo real.
Governança e Ética em Soluções de IA
A cibersegurança não é a única área que enfrenta um aumento tanto em oportunidades quanto em escrutínio. George Moawad, gerente da Genetec para a Oceania, relata que mais de 40% dos tomadores de decisão em segurança agora priorizam soluções impulsionadas por IA. No entanto, ele ressalta as crescentes demandas por transparência, governança e ética. “Essa capacidade também levanta preocupações sobre supervigilância e potencial uso indevido”, observa, defendendo o estabelecimento de comitês de supervisão e protocolos claros para garantir o uso responsável da IA.
A Importância da Governança
O foco na governança emergiu como um tema comum nos comentários dos especialistas. Vini Cardoso, diretor de tecnologia da Cloudera na Austrália e Nova Zelândia, enfatiza que “uma governança forte e liderança estratégica” são essenciais à medida que a IA agente – IA que persegue autonomamente objetivos – se torna mais prevalente. Cardoso aponta para novas pesquisas e uma mudança nas atitudes da indústria, afirmando: “A IA deve ser construída sobre fundações de dados seguros e bem governados. Sem isso, não podemos confiar nos modelos, muito menos escalá-los com segurança.” Desafios como privacidade de dados, preconceito e escassez de habilidades permanecem obstáculos-chave para as organizações que buscam implantar IA em larga escala, especialmente em setores altamente regulamentados como finanças e saúde.
Diálogo Socialmente Responsável sobre IA
Em meio a esses desafios, especialistas da indústria também estão defendendo um diálogo mais amplo e socialmente responsável em torno da IA. Simon Wistow, cofundador da Fastly, destaca as consequências ambientais da inovação em IA. “A Gen IA não é apenas alguma mágica em nuvem produzindo poesia e código, são milhões de GPUs processando vetores e consumindo uma quantidade significativa de energia”, observa, enfatizando a necessidade de eficiência e transparência no desenvolvimento da IA. Dados de pesquisa da Fastly indicam que 45% dos entrevistados priorizariam modelos energeticamente eficientes se os custos de uso da IA estivessem atrelados ao consumo de energia.
Implementação Eficaz da IA
Matthew Hardman, diretor de tecnologia da APAC na Hitachi Vantara, destaca a necessidade fundamental de dados de alta qualidade e gestão de projetos eficaz para uma implementação bem-sucedida da IA. “A IA depende de dados abrangentes e de alta qualidade para fornecer resultados precisos”, observa Hardman, acrescentando que integrar a IA em infraestruturas obsoletas ou híbridas requer um planejamento cuidadoso. Ecoando isso, David Lloyd, diretor de IA da Dayforce, vê uma oportunidade única para o RH assumir um papel de liderança estratégica – orientando a adoção da IA de uma maneira que seja tanto ética quanto centrada nas pessoas.
Conclusão
A mensagem da indústria é clara: para que a IA entregue sua promessa, as empresas devem olhar além da inovação técnica e priorizar proativamente a governança, o uso ético, a sustentabilidade e o empoderamento humano. À medida que as organizações continuam a implantar a IA em todos os aspectos de suas operações, os líderes da indústria pedem uma abordagem responsável e equilibrada para que os benefícios da IA possam ser realizados de forma segura e inclusiva para empresas, trabalhadores e sociedade em geral.
