A IA está acelerando na saúde. Quem deve regulá-la?
A IA está se movendo rapidamente para o setor de saúde, trazendo potenciais benefícios, mas também possíveis armadilhas, como preconceitos que geram cuidados desiguais e o esgotamento de médicos e outros profissionais de saúde. Ainda não está decidido como deve ser regulamentada nos Estados Unidos.
Em setembro, uma comissão de acreditação hospitalar e uma coalizão para a Saúde da IA emitiram recomendações para a implementação da inteligência artificial nos cuidados médicos, com o ônus da conformidade recaindo amplamente sobre as instalações individuais.
A necessidade de regulação da IA na saúde
Quando a IA médica lida com algo de risco médio a alto, a regulação é necessária: seja regulação interna ou regulação governamental externa. Até agora, a maior parte foi interna, e existem diferenças em como cada sistema hospitalar valida, revisa e monitora a IA em saúde.
Quando feito de forma hospitalar, os custos para essa avaliação e monitoramento podem ser significativos, o que significa que alguns hospitais conseguem fazer isso, enquanto outros não. Por outro lado, a regulação de cima para baixo é mais lenta — talvez lenta demais para algumas formas de progresso neste espaço.
Tipos de produtos de IA na saúde
Há uma mistura complicada de produtos de IA sendo oferecidos aos hospitais. Alguns podem ajudar em questões como compras internas e revisão, mas muitos são clínicos ou adjacentes à clínica.
Alguns produtos de IA médica se comunicam diretamente com os consumidores, como chatbots que as pessoas podem usar para saúde mental. Para isso, não há nem uma revisão interna do hospital, e a necessidade de regulação é muito mais clara.
A velocidade na regulação é importante?
Este é um ecossistema de inovação com muita energia de startups, o que é positivo. Mas estamos falando de algo que pode escalar extremamente rápido, sem muita revisão interna.
Quando você entra em uma “dinâmica de corrida”, há o risco de que a ética fique rapidamente para trás. Seja a corrida para ser o primeiro a desenvolver algo, uma corrida de startups contra a falta de dinheiro, ou uma corrida nacional entre países tentando desenvolver inteligência artificial, as pressões do tempo tornam mais fácil ignorar questões éticas.
A importância de padrões para a IA médica
A vasta maioria da IA médica nunca é revisada por um regulador federal — e provavelmente nem por um regulador estadual. Queremos ter padrões para a IA em saúde e um incentivo para adotá-los.
Mas submeter tudo ao rigoroso processo da FDA para medicamentos, ou mesmo para dispositivos médicos, seria em muitos casos proibitivamente caro e lento para aqueles encantados com a taxa de desenvolvimento no Vale do Silício.
Por outro lado, se esses produtos forem mal executados, muitos representam um risco muito maior para a população em geral do que o dispositivo médio no mercado.
Sistemas de acreditação e responsabilidade
Um sistema de acreditação é algo que os hospitais naturalmente devem considerar. Em quase todos os estados, para poder faturar para o Medicare e Medicaid, você precisa ser acreditado. Isso é parte fundamental do negócio da maioria dos hospitais.
O processo para qualificação para acreditação é robusto, e a cada certo período você é reavaliado. Acreditação é um assunto sério.
As diretrizes requerem que, quando apropriado, os pacientes sejam notificados quando a IA impacta diretamente seu cuidado, e que, quando relevante, o consentimento para o uso de um agente de IA deve ser obtido. Isso é uma posição forte a ser tomada.
Desafios para hospitais menores
É sabido que a implementação de um novo algoritmo complexo pode custar entre $300.000 a $500.000, o que está fora do alcance de muitos sistemas hospitalares. Isso cria uma distribuição desigual em termos de acesso à saúde.
Se a verificação e monitoramento da IA médica forem feitas por uma entidade maior, como o governo, isso pode facilitar a implementação em hospitais com menos recursos.
Conclusão
A difusão dessas tecnologias para ambientes com poucos recursos é muito empolgante, mas apenas se alinharmos os incentivos de forma apropriada. Isso não acontece por acaso, e é importante que essas preocupações distributivas façam parte de qualquer tentativa de legislar nesta área.
