Governança de Inteligência Artificial Responsável em Oncologia
A inteligência artificial (IA) está transformando o setor de saúde, e a oncologia não é exceção. Pesquisas estão em andamento para avaliar a implementação da IA em todas as fases da jornada do câncer do paciente, incluindo triagem de ensaios clínicos, apoio à decisão da equipe de cuidados e diversas áreas de pesquisa sobre câncer.
Até agosto de 2024, o registro da Food and Drug Administration (FDA) para dispositivos médicos habilitados por IA e aprendizado de máquina continha 949 “dispositivos”, com um número crescente que é específico para oncologia (75 registrados, 40 adicionados nos últimos três anos). Os centros de câncer também estão testando a IA generativa em ambientes não clínicos, mostrando um interesse crescente na inovação dentro do setor.
Necessidade de Estruturas de Governança para IA Responsável
Até o momento, estruturas específicas para a governança de IA responsável (RAI) em oncologia ainda não foram estabelecidas. Embora diversos frameworks e regulamentos de RAI estejam surgindo, nenhum aborda as oportunidades e desafios específicos para a implementação na área da oncologia. A necessidade de garantia de qualidade e validação local de modelos em oncologia é premente e significativa.
A oncologia apresenta casos de uso únicos para IA, como predição da evolução tumoral, suporte à decisão genômica, análise de imagens de patologia e planejamento de tratamento em oncologia de radiação. Contudo, a IA na oncologia pode exacerbar riscos à equidade no cuidado do câncer, dada as disparidades predominantes em triagem, acesso e resultados de tratamento.
Desenvolvimento e Implementação de um Modelo de Governança RAI
O estudo em questão apresenta um modelo de governança de RAI em um Centro de Câncer Completo, com dois objetivos principais: (1) a concepção e desenvolvimento de uma abordagem de governança de IA responsável para oncologia e (2) a implementação das lições aprendidas.
Na primeira fase, foi criado um modelo de gestão do ciclo de vida da IA, denominado iLEAP, que se destaca pela sua estrutura de decisão. O iLEAP abrange aspectos legais, éticos, de adoção e desempenho, estabelecendo um caminho claro para profissionais que desenvolvem modelos de IA.
Na segunda fase, o portfólio de modelos de IA foi tratado como uma coleção gerida ativamente, permitindo o rastreamento de quais modelos estão em cada estágio do ciclo de vida. Essa abordagem possibilitou a avaliação e monitoramento de 26 modelos de IA e 2 pilotos de IA ambientais.
Resultados e Desafios
Os resultados da primeira fase destacam os desafios principais a serem superados, incluindo:
- Dados de alta qualidade para o desenvolvimento de modelos de IA;
- Poder computacional de alta performance;
- Capacidade de talento em IA;
- Políticas e procedimentos adequados.
O modelo de governança desenvolvido permite a identificação clara de prioridades para investimentos futuros em IA, criando um modelo de parceria para avaliar potenciais fornecedores de IA.
Importância da Avaliação Contínua
Um aspecto crucial do modelo de governança RAI é a avaliação contínua da performance e impacto dos modelos de IA em produção. A avaliação é realizada com base em quatro componentes principais:
- Desempenho dos modelos em produção comparado ao laboratório;
- Adoção pelos usuários;
- Atendimento a métricas de sucesso pré-especificadas;
- Monitoramento de eventos adversos induzidos por IA.
Os modelos são revisados formalmente após 6 a 12 meses de operação, garantindo que a governança da IA se mantenha robusta e adaptável às necessidades do setor de saúde.
Considerações Finais
Este estudo é um dos primeiros a relatar a governança de IA responsável em larga escala na oncologia, destacando a viabilidade da governança e garantia de qualidade dos modelos de IA. No entanto, a execução de um modelo de governança RAI requer componentes-chave para o sucesso. Aumentar a capacidade de governança e a eficácia na implementação de IA é um desafio constante, que demanda um equilíbrio entre a promoção do uso de IA e o seu uso responsável.
A pesquisa continua a evoluir, buscando refinar critérios de avaliação e implementar práticas que garantam que a IA contribua positivamente para a oncologia, promovendo um cuidado equitativo e eficaz para todos os pacientes.
