AI = Responsabilidade + Inclusão
A inteligência artificial (IA) está se tornando uma parte integral do sistema operacional de organizações, governos e da sociedade. Com a rápida aceleração na adoção da IA, surgem implicações e consequências negativas imprevistas, frequentemente causadas pela falta de governança responsável. É fundamental que os profissionais que lideram as estratégias de IA colaborem com especialistas em Diversidade, Equidade e Inclusão (DE&I) para garantir que princípios centrados no ser humano sejam integrados em seu uso e respeitados.
Diversidade, Equidade e Inclusão
A DE&I oferece princípios e práticas que podem informar os tomadores de decisão. O setor de Recursos Humanos é uma das áreas mais discutidas em relação à aplicação da IA. Muitas organizações, como a Unilever, já utilizam plataformas de contratação impulsionadas por IA, como a HireVue, na seleção de candidatos. No entanto, o uso da IA para avaliação individual é um tema de debate acalorado. A HireVue enfrentou críticas nos EUA por práticas injustas e enganosas, resultando na eliminação da análise facial e na publicação de princípios éticos de IA.
Essa história é vista por muitos como um “final feliz”. Contudo, é inegável que a IA tem muito a contribuir e será cada vez mais integrada ao futuro da recrutamento, avaliação personalizada e desenvolvimento de talentos. Portanto, é essencial reconhecer a necessidade de governança e inovação responsáveis em IA.
Riscos e Desafios da IA
Problemas como algoritmos tendenciosos que rejeitam candidatos de grupos sub-representados são preocupações reais. Além disso, a dependência excessiva da IA pode privar os funcionários júnior de oportunidades cruciais para seu desenvolvimento profissional. As grandes modelos de linguagem (LLMs), que se tornaram populares, também enfrentam críticas por não representarem adequadamente todas as culturas, gêneros, idiomas e crenças. Se não forem abordados, esses preconceitos podem ter repercussões negativas e não intencionais.
Para que a IA ajude as pessoas em produtividade e aprendizado, é necessário construir confiança. Devemos agir agora para garantir que preconceitos e falhas éticas sejam detectados e minimizados, permitindo que a IA se torne um colaborador eficaz e confiável. A DE&I pode desempenhar um papel crucial nesse aspecto.
Uma Estratégia para a IA Responsável
A profissão DE&I tem décadas de experiência e desenvolveu práticas robustas e baseadas em pesquisa para uma implementação eficaz. É necessário um planejamento estratégico coeso, em vez de uma série de atividades aleatórias. Estratégias de DE&I bem-sucedidas devem ser projetadas e implementadas com a contribuição de todas as regiões e unidades de negócios, considerando aspectos culturais.
Um exemplo prático é a criação de “Conselhos de DE&I”, que fornecem contribuições estratégicas em muitas organizações. Esses conselhos representam diferentes segmentos da organização e da sociedade, garantindo que todas as vozes sejam ouvidas. Qualquer estratégia de DE&I deve estar diretamente ligada aos valores corporativos e crenças, funcionando como uma bússola moral e ética.
Modelo da “Casa DE&I”
Várias empresas da Fortune 500 utilizam o modelo da “Casa DE&I” como base para integrar e implementar princípios e práticas que sustentam a transformação cultural necessária. Este modelo define uma narrativa orientada para a missão e combina comunicação, educação, métricas e conformidade por meio de três pilares: recrutamento e retenção de talentos, desenvolvimento e mentoria, e inclusão e equidade.
A Jornada da IA Responsável: Dados, Design e Entrega
As principais questões em torno da IA giram em torno de três fases: os dados usados para treinar modelos de IA, o design e desenvolvimento de modelos de IA e a entrega de soluções de IA. Essas três fases são críticas para o sucesso e devem ser as bases de uma estratégia robusta e responsável de IA.
Fase de Dados
A primeira etapa na jornada da IA de qualquer organização é a curadoria do conjunto de dados que será utilizado para treinar a capacidade desejada de IA. Exemplo notável de IA discriminatória é o uso de algoritmos de reconhecimento facial na aplicação da lei, que falharam em funcionar corretamente para todos os tons de pele. A falta de dados representativos levou a falsas identificações, resultando em prisões indevidas.
É essencial garantir uma representação diversa nos conjuntos de dados de treinamento para minimizar preconceitos e assegurar justiça. Processos inclusivos e transparentes devem ser estabelecidos para a governança de dados, refletindo diferentes perspectivas e necessidades.
Fase de Design e Desenvolvimento
Após a preparação do conjunto de dados, a organização pode prosseguir para o design e desenvolvimento do modelo de IA. É crucial que diferentes ângulos e pontos de vista façam parte do processo. Estudos demonstram que a representação de grupos diversos impacta a tomada de decisão e o desempenho apenas quando alcança 30% do total. A inclusão deve ser promovida para garantir que todos os membros da equipe se sintam autorizados a compartilhar perspectivas divergentes.
Fase de Entrega
A fase de entrega é quando o produto de IA é lançado e utilizado. Independentemente de a organização comprar este produto de um fornecedor de IA ou desenvolvê-lo internamente, inovações em IA devem ser testadas em vários segmentos da sociedade. Isso envolve a coleta de feedback para monitorar o impacto da solução em diferentes grupos demográficos.
Organizações também devem buscar acesso equitativo às soluções de IA, abordando questões como alfabetização digital e acessibilidade, que podem afetar desproporcionalmente comunidades marginalizadas.
Perguntas DE&I para Equipes de IA
Para ajudar as organizações a refletirem sobre os passos e considerações requeridas em cada fase de uma estratégia de IA responsável, recomenda-se reunir suas equipes de IA e DE&I para criar um “conselho ético” interno. Esse exercício deve ser repetido regularmente para garantir que os processos de governança e inovação responsáveis permaneçam no caminho certo.
Incorporar princípios de DE&I nas jornadas de IA pode cultivar uma abordagem mais justa e ética para a inovação tecnológica, beneficiando toda a sociedade.
Governança Responsável da IA
Como em qualquer sistema de governança, é crucial priorizar a transparência, a responsabilidade e a inclusão na IA. Um “Conselho de IA” pode servir como um elo central para garantir conjuntos de dados inclusivos e o desenvolvimento ético, entrega e supervisão das tecnologias de IA. É essencial determinar quem supervisiona esse conselho e como seus resultados são medidos e reportados.
Integrar os princípios de DE&I em cada etapa da tomada de decisão, desde os dados até o design e entrega de soluções de IA, é uma recomendação fundamental para fortalecer a governança ética em IA.
