A IA está se espalhando na saúde. Eles querem corrigir isso.
A indústria da saúde entrou em uma nova era com o uso de IA em imagens médicas, registros eletrônicos de saúde e suporte inicial para saúde mental.
Apesar de algoritmos que detectam padrões em raios-X e registros de saúde terem ajudado a economizar tempo dos clínicos, o software de IA tem causado sérios erros no atendimento ao paciente, com preconceitos raciais que subpriorizam o atendimento a pacientes negros e idosos, sendo negados cobertura de seguros para procedimentos que, de outra forma, seriam aprovados.
Desafios da regulamentação da IA
A abordagem “pick and mix” que a maioria da indústria tem utilizado com a IA, criando regras improvisadas em vez de diretrizes e regulamentações abrangentes, está começando a se desgastar. A falta de regulamentação robusta em relação à IA é uma preocupação crescente, e especialistas alertam que, se não forem tomadas providências, as consequências podem ser graves.
Desenvolvimento de um guia universal
Um projeto está sendo iniciado para construir um guia universal sobre o uso ético da IA na saúde, reunindo cientistas da computação, pesquisadores de saúde pública, éticos e profissionais da saúde. A questão central é como ensinar especialistas técnicos sobre ética e médicos, que já estão sintonizados eticamente, sobre tecnologia.
O objetivo é fornecer uma estrutura onde valores éticos possam ser convertidos em decisões de design e desenvolvimento, além de requisitos de monitoramento, em uma linguagem técnica que os desenvolvedores compreendam.
Riscos e segurança
Sem diretrizes éticas claras, os mais de 1.200 dispositivos médicos habilitados para IA atualmente aprovados pela FDA apresentam riscos potenciais à segurança e à saúde. Apenas 8% têm um plano para monitorar como seu produto está sendo utilizado após a aprovação.
Capacitação e conscientização
A primeira parte do desenvolvimento do guia envolve pesquisadores trabalhando com grandes sistemas de saúde para entender o que os trabalhadores da saúde realmente precisam aprender sobre IA. O objetivo é habituar os trabalhadores da saúde a fazer perguntas sobre IA desde o início, seja ao implementar ferramentas de IA ou ao utilizá-las.
O guia deve ser mais do que uma introdução à ética da IA; ele deve ser uma referência em todas as etapas do processo para sistemas de saúde que exploram uma tecnologia com poucas diretrizes, mas limites claros.
Conclusão
O desenvolvimento de um guia ético universal é um desafio em constante evolução, à medida que a tecnologia avança rapidamente. A expectativa é que esse documento sirva como uma base para que profissionais da saúde possam se comunicar efetivamente sobre o que a tecnologia deve ou não fazer.
