Licenciamento de Inteligência Artificial na Saúde
A inteligência artificial generativa já ajuda os clínicos a interpretar resultados de exames laboratoriais, dosar antibióticos e responder a consultas de pacientes. Os processos atuais de aprovação para o uso de IA em saúde utilizam a estrutura de software como dispositivo médico (SaMD) da Administração de Alimentos e Medicamentos (FDA), que funciona melhor para ferramentas de um único fabricante projetadas para realizar tarefas específicas, como classificar lesões pulmonares de alto risco. No entanto, os produtos de IA generativa modernos possuem um conjunto de habilidades mais amplo, podendo ser construídos com uma base criada por uma empresa, ajustada por outra e estendida por plug-ins de terceiros, sem uma clara responsabilidade regulatória.
Proposta de Licenciamento
Uma nova abordagem proposta sugere licenciar a IA da mesma forma que licenciamos médicos humanos, enfermeiros e assistentes médicos, que praticam de maneira supervisionada e colaborativa. Os autores argumentam que as preocupações com a IA generativa, como alucinações e desvios de desempenho, são semelhantes às preocupações do final do século XIX sobre remédios fraudulentos e a variabilidade na formação dos clínicos. O modelo de licenciamento, que combina padrões de prática com vigilância contínua e educação, pode ser adaptado para a regulamentação da IA.
Idealmente, um novo conselho federal de licenciamento digital supervisionaria a estrutura proposta. No entanto, órgãos federais e estaduais existentes poderiam desempenhar papéis importantes: o FDA poderia manter seu papel em avaliações pré-mercado, evitando que os desenvolvedores precisem submeter-se a 50 autoridades de licenciamento estaduais.
Estrutura de Licenciamento Proposta
Sistemas de saúde designados com experiência em IA poderiam funcionar como centros de implementação, e a supervisão contínua e disciplina poderiam ser responsabilidade dos conselhos médicos estaduais, com um corpo coordenador federal para harmonizar os padrões.
Os autores afirmam que “um quadro de licenciamento pode ajudar a garantir que a inovação escale com responsabilidade e não à frente dela”. Abaixo, uma tabela mostra os paralelos entre o licenciamento de clínicos e uma potencial estrutura de licenciamento para IA.
Paralelos Entre Licenciamento de Clínicos e IA
- Conceito de Licenciamento | Clínico Humano | IA Generativa
- Requisitos de Pré-licenciamento | Diploma acreditado e aprovação em exames nacionais de conselho; período supervisionado de treinamento clínico | Validação técnica para competências pré-definidas (exames nacionais de conselho de IA); piloto supervisionado em “centros de implementação” acreditados nacionalmente (residência de IA)
- Escopo de Prática | Delimitação de serviços médicos aprovados, com populações e grau de autonomia; acordos de colaboração ou supervisão para PAs/NPs | Delimitação de funções aprovadas (ex: interpretação de imagens), com populações e grau de autonomia; orientação sobre supervisão clínica para cada função
- Credenciamento Institucional | Sistemas de saúde credenciam para procedimentos específicos e revisam resultados, podendo suspender privilégios por preocupações de segurança | Comissões de governança de IA dos sistemas de saúde avaliam a implementação específica do local, determinam privilégios locais dentro do escopo de prática da IA licenciada e monitoram métricas de qualidade locais.
- Supervisão Contínua | Requisitos de educação continuada e avaliações periódicas de conhecimento (para manutenção da certificação do conselho) | Atualização anual de benchmarks para cada competência e relatório de medidas de desempenho clínico para revisão pelo conselho.
- Disciplina / Responsabilidade | Conselhos médicos estaduais investigam reclamações e podem multar, suspender ou revogar licenças, ou exigir requalificação; ações relatadas ao Banco de Dados Nacional de Profissionais | Conselhos digitais recebem e processam reclamações e podem colocar sistemas de IA em probation; exigir correções ou limites adicionais; suspender ou revogar licença.
Conclusão
O licenciamento de IA na saúde representa um passo em direção à responsabilidade e à inovação, assegurando que os produtos de IA possam operar dentro de um quadro regulamentar que prioriza a segurança e a eficácia, semelhante ao contexto dos clínicos humanos.
