Desafios na Governança e Regulação de Ferramentas de Inteligência Artificial na Saúde
Os sistemas de saúde e as empresas emergentes enfrentam desafios significativos na governança e regulação ao implementar novas ferramentas baseadas em inteligência artificial (IA). Um recente webinar organizado pela Manatt Health destacou a necessidade de uma infraestrutura robusta para monitorar modelos de aprendizado de máquina em escala.
Estado Atual da Governança
Randi Seigel, parceira da Manatt, forneceu uma visão geral do estado atual da governança, incluindo diretrizes recentes da Joint Commission e CHAI. O encontro discutiu tentativas de legislação de IA no Congresso e modelos desenvolvidos por associações, como o modelo de boletim da National Association of Insurance Commissioners sobre o uso de IA pelos pagadores, adotado em vários estados.
A Federation of State Medical Boards também lançou uma declaração sobre a incorporação responsável e ética da IA, adotada por pelo menos duas juntas médicas estaduais.
Diretrizes e Melhores Práticas
A Joint Commission e a Coalition for Health AI publicaram diretrizes propostas sobre as melhores práticas para adoção de IA no setor de saúde. As recomendações abrangem políticas de IA e estrutura de governança, privacidade e transparência do paciente, segurança de dados, proteção do uso de dados, monitoramento contínuo da qualidade, relato de eventos de segurança, avaliação de risco e viés, além de educação e treinamento.
Essas diretrizes sugerem que as organizações de saúde implementem um processo para relato voluntário, confidencial e cego de eventos de segurança de IA às organizações de segurança do paciente. As melhores práticas incluem gerenciamento de risco de terceiros e avaliação de ferramentas desenvolvidas internamente e adquiridas.
Desafios e Recursos Disponíveis
Troy Bannister, fundador da Onboard AI, ressaltou que apenas uma pequena porcentagem dos sistemas hospitalares possui os recursos necessários para implementar uma estrutura abrangente para monitoramento de ferramentas de IA. A resistência inicial dos hospitais a monitorar todas as ferramentas de IA foi evidente durante a publicação das diretrizes pela Joint Commission e CHAI.
Ele observou que, atualmente, os hospitais estão começando com casos de uso de baixo risco, como revisão de prontuários e triagem radiológica, onde há profissionais analisando cada resultado.
Futuro da Regulação de IA
O painel também discutiu a proposta do SANDBOX Act pelo Senador Ted Cruz, que visa criar um programa de sandbox regulatório. No entanto, muitos panelistas expressaram ceticismo em relação a essa abordagem, destacando que a confiança na inovação não deve depender de isenções regulatórias.
Mark Sendak, cofundador da Vega Health, propôs um modelo semelhante ao CLIA (Clinical Laboratory Improvement Amendments), onde práticas padrão são acordadas, mas as organizações constroem capacidades internas para controle de qualidade da IA.
Para enfrentar esses desafios, é essencial um engajamento significativo do setor privado na construção de uma infraestrutura que possibilite a governança eficaz da IA na saúde.
