Cómo una biopharma global se convirtió en líder en IA ética
La inteligencia artificial (IA) ha emergido como un agente clave de transformación, creando oportunidades para una mayor percepción y eficiencia en todas las industrias. La biopharma no es una excepción.
Una biopharma global llevó a cabo una evaluación interna de IA para evaluar la madurez de sus procesos en este campo emergente, lo que ayudó a identificar varias brechas. La más urgente fue la ausencia de un marco de gobernanza de IA.
Desarrollo del marco de gobernanza de IA
La empresa entendió que cerrar esta brecha sería un paso vital para alcanzar un estado maduro más pronto que tarde, permitiéndole aprovechar las oportunidades de IA y mitigar con éxito los riesgos técnicos, sociales y éticos, incluidos los sesgos en la toma de decisiones y las violaciones de privacidad.
Posteriormente, la biopharma desarrolló un marco de gobernanza de IA integral que abraza principios de IA responsable como la transparencia, la justicia y la humanocentricidad.
El director de información de la biopharma afirmó: “Tenemos una responsabilidad colectiva de gestionar el riesgo de IA. Nuestros principios éticos de IA son una parte importante de nuestra estrategia de gestión de riesgos de IA y ayudan a maximizar los beneficios de la IA.”
Asociación con un socio independiente
No obstante, la dirección necesitaba asegurarse de que se estaba avanzando en la dirección correcta y buscó un socio independiente. Una revisión encontró que la biopharma no siempre estaba gestionando los riesgos específicos de IA de los proyectos de acuerdo con sus principios de IA responsable.
La evaluación destacó varias brechas en su enfoque, lo que permitió establecer requisitos mínimos para los equipos de negocio que trabajaban con IA. La biopharma fue un pionero en la gestión de riesgos de IA en su industria, pero se buscó confianza en su enfoque e identificar oportunidades de mejora.
Cambios necesarios en la gobernanza de IA
La revisión detallada ayudó a la biopharma a apreciar la necesidad de cambios significativos en su enfoque hacia la gobernanza de IA. Esto incluyó una mejor evaluación de riesgos de IA de terceros y un nuevo inventario central de IA, este último siendo fundamental para la gestión de riesgos de IA y el cumplimiento regulatorio.
La empresa se dio cuenta de que no existe un método único de gobernanza de IA, lo que hace que el desafío sea mayor para algunas empresas. Por ejemplo, las empresas más federadas con autonomía distribuida deben encontrar una manera de lograr consistencia entre múltiples unidades sin una única autoridad que supervise la gobernanza de IA.
Evaluación personalizada y colaboración
También quedó claro que si una revisión independiente encuentra que la gobernanza de IA de una organización no es adecuada, la dirección debe estar dispuesta a realizar cambios estructurales necesarios o establecer una junta de gobernanza para crear una mejor alineación.
Es esencial que dicha revisión sea tan personalizable como la estructura organizativa de la empresa, ya que las responsabilidades y liderazgos varían. Equipos multidisciplinarios pudieron trabajar con la biopharma en cómo debería lucir una evaluación de IA responsable, integrando lo que ya estaban haciendo con un marco global de IA responsable.
Conclusiones sobre la ética de IA
La ética de la IA todavía está en su juventud, por lo que tiene sentido que muchas empresas carezcan de las capacidades internas necesarias para iniciar o continuar su viaje. El apoyo de un socio independiente con la capacidad de personalizar el proceso de evaluación añade valor al ayudar a una organización a desarrollar procesos de gobernanza de IA apropiados para su negocio, aumentando la probabilidad de cumplimiento regulatorio.
Esto ayudará a la dirección a proteger a las partes interesadas, incluidos el público, de los riesgos de la IA, manteniendo a los humanos en el centro de la transformación.
