Como uma biopharma global se tornou líder em IA ética
A inteligência artificial (IA) emergiu como um agente chave de transformação, criando oportunidades para insights e eficiência aprimorados em todas as indústrias. O setor biopharma não é exceção.
Uma empresa global de biopharma conduziu uma avaliação interna de IA para avaliar a maturidade de seus processos nesse campo emergente, o que ajudou a identificar várias lacunas. A mais urgente foi a ausência de um quadro de governança de IA.
A empresa entendeu que preencher essa lacuna seria um passo vital para alcançar um estado maduro mais cedo, permitindo que aproveitasse as oportunidades da IA e mitigasse com sucesso riscos técnicos, sociais e éticos, como preconceitos nas decisões e violações de privacidade.
Assim, desenvolveu um quadro abrangente de governança de IA, abraçando princípios de IA responsável, como transparência, justiça e centralidade humana.
Entretanto, a liderança buscava garantir que estava seguindo na direção certa e procurou um parceiro independente.
Avaliação e Identificação de Lacunas
A avaliação revelou que a biopharma nem sempre gerenciava os riscos de IA específicos de projetos de acordo com seus princípios de IA responsável. Isso permitiu à empresa estabelecer requisitos mínimos para as equipes de negócios que trabalham com IA.
Embora a biopharma fosse uma das pioneiras na gestão de riscos de IA em seu setor, a análise forneceu confiança em sua abordagem e destacou oportunidades de melhoria.
As mudanças necessárias na abordagem de governança de IA incluíram uma melhor avaliação de riscos de IA de terceiros e um novo inventário central de IA, fundamental para a gestão de riscos de IA e conformidade regulatória.
Desafios e Considerações Estruturais
Ficou claro que não existe um método único de governança de IA, o que torna o desafio ainda maior para algumas empresas. Organizações mais federadas, com autonomia distribuída, devem encontrar uma maneira de alcançar consistência entre várias unidades, enquanto aquelas com controle mais centralizado precisam pensar de forma diferente.
Além disso, se uma revisão independente considerar que a governança de IA de uma organização não é adequada, a liderança deve estar disposta a fazer mudanças estruturais necessárias ou estabelecer um conselho de governança para melhor alinhamento.
A Importância da Avaliação Independente
A ética da IA ainda está em sua infância, e muitas empresas carecem das capacidades internas necessárias para iniciar ou continuar sua jornada. O apoio de um parceiro independente que tenha a capacidade de personalizar o processo de avaliação agrega valor ao ajudar uma organização a desenvolver processos de governança de IA apropriados para seu negócio, aumentando a probabilidade de conformidade regulatória.
Isso ajudará a posicionar a liderança para proteger os stakeholders, mantendo os humanos no centro da transformação.
