Co-criação de IA Responsável e Ética com Stakeholders da Saúde
O desenvolvimento de soluções de inteligência artificial (IA) deve começar a partir da perspectiva do usuário, compreendendo quem será impactado e trabalhando em estreita colaboração com esses indivíduos para construir soluções eficazes e seguras.
Um painel intitulado Além da Conformidade: IA Responsável e Ética na Saúde Pública de Cingapura destacou a necessidade de complementar a perspectiva prática ao lado de estruturas teóricas para identificar os casos de uso práticos da IA.
Princípios Éticos em Prática
Instituições de saúde pública podem incorporar princípios de IA responsável e ética em seus fluxos de trabalho diários utilizando ferramentas específicas, como modelagem de ameaças e a prática do cartão ético de dados. Essas práticas ajudam a garantir que a IA responsável não seja apenas um conceito teórico, mas esteja entrelaçada no processo de pensamento da equipe de produtos.
A prática do cartão ético de dados orienta discussões sobre como os dados são usados, acessados e armazenados, assegurando que princípios éticos sejam respeitados em todas as etapas do desenvolvimento.
Desafios e Abordagens Holísticas
Os palestrantes enfatizaram a necessidade de adotar uma abordagem holística para enfrentar o desafio do viés nos dados ou algoritmos, um ponto de preocupação levantado pela audiência. O viés é um problema complexo que deve ser tratado desde a coleta inicial de dados até a operação contínua do sistema de IA.
A ideia central é que construir um modelo de IA perfeito, 100% preciso, não é sempre o objetivo. Em vez disso, trata-se de decidir quanto erro é aceitável para um determinado caso de uso e contexto. Instituições de saúde pública precisam adotar uma abordagem pragmática que priorize o equilíbrio entre precisão, ética e praticidade.
Fechando a Lacuna entre Intenção e Percepção Pública
Um dos desafios mencionados foi a lacuna entre a intenção do governo de ajudar o público e a percepção pública de estar sendo monitorado. Para o setor público, é crucial que as agências sejam transparentes com os usuários finais sobre quais dados são utilizados e como são utilizados com a IA, com o objetivo de construir uma relação de confiança com o público.
Abordagem de Ecossistema Necessária para Governar a IA Generativa
Cingapura está adotando uma abordagem de governo inteiro — ou até mesmo de toda a sociedade — para implementar seu movimento nacional de saúde populacional, Healthier SG. No caso da Health Promotion Board (HPB), um único aplicativo com os dados individuais de um usuário pode não ser suficiente para promover mudanças duradouras, pois a saúde das pessoas é influenciada por outros fatores em seu ambiente.
À medida que os sistemas de IA se expandem para cobrir dados de outras fontes e potenciais pontos de intervenção, uma abordagem de ecossistema se torna necessária para governar os sistemas de IA. Com o aumento do escopo de dados coletados para treinar a IA, os palestrantes enfatizaram a necessidade crítica de limites éticos e salvaguardas.
Os sistemas de IA devem ser projetados com um conjunto claro de limitações e uma rede de segurança embutida que garanta intervenção humana quando necessário, assegurando que a IA funcione como uma ferramenta de apoio e não como um substituto para a expertise humana.
