Co-creando IA responsable y ética con partes interesadas del sector salud
La incorporación de principios éticos en el desarrollo de soluciones de inteligencia artificial (IA) requiere un enfoque integrado y multistakeholder, que involucre no solo a los desarrolladores, sino también a usuarios comerciales y clientes.
Perspectiva del usuario
En el desarrollo de soluciones de IA, es fundamental comenzar desde la perspectiva del usuario, entendiendo quién se ve afectado y trabajando en estrecha colaboración con ellos para construir soluciones efectivas y seguras. Esta fue la conclusión del panel titulado Más allá del cumplimiento: IA responsable y ética en la salud pública de Singapur, que tuvo lugar en un evento reciente.
Principios éticos en la práctica
Las instituciones de salud pública pueden incorporar principios de IA responsable y ética en sus flujos de trabajo diarios utilizando herramientas específicas como el modelado de amenazas y la práctica de tarjetas éticas de datos. Aunque el Modelo de Marco de Gobernanza de IA para IA Generativa es un buen comienzo, estas prácticas ayudan a integrar estos principios en el proceso de pensamiento del equipo de producto.
Enfoque holístico
Es crucial adoptar un enfoque holístico para abordar el problema del sesgo de datos o algoritmos. Dado que el sesgo es complejo, se necesita una estrategia integral que cubra desde la preparación y limpieza de datos hasta la construcción del modelo y el monitoreo continuo. Este enfoque debe ser una requisito transversal que afecte a todas las partes de un proyecto, no solo a un equipo específico.
Equilibrio entre precisión y ética
La idea central es que construir un modelo de IA perfecto y 100% preciso no siempre es el objetivo. En su lugar, se debe decidir cuánto error es aceptable para un caso de uso y contexto dados. Las instituciones de salud pública deben adoptar un enfoque pragmático que priorice el equilibrio entre diferentes necesidades, como precisión, ética y practicidad.
Transparencia y confianza
Otra challenge es cerrar la brecha entre la intención del gobierno de ayudar al público y la percepción del público de ser rastreado o monitoreado. Es esencial que las agencias sean transparentes con los usuarios finales sobre qué datos se utilizan y cómo se utilizan con la IA para construir una relación de confianza.
Enfoque ecosistémico en la gobernanza de IA
Singapur está adoptando un enfoque de gobierno integral en la implementación de su movimiento nacional de salud poblacional, Healthier SG. En este caso, una sola aplicación con los datos individuales de un usuario puede no ser suficiente para promover un cambio duradero, ya que la salud de las personas se ve influenciada por factores en su entorno.
A medida que los sistemas de IA se expanden para cubrir datos de otras fuentes y posibles puntos de intervención, se necesita un enfoque ecosistémico para gobernar los sistemas de IA. Con el creciente alcance de los datos recopilados para entrenar IA, es crucial establecer límites éticos y salvaguardas.
Los sistemas de IA deben diseñarse con un conjunto claro de limitaciones y una red de seguridad incorporada que garantice la intervención humana cuando sea necesario. Esto asegura que la IA actúe como una herramienta de apoyo, no como un reemplazo de la experiencia humana.
