Gerenciando a Governança de IA na Saúde: O que os Conselhos Precisam Saber
A inteligência artificial (IA) passou rapidamente de programas piloto para fluxos de trabalho clínicos e administrativos centrais em hospitais, reformulando a forma como o atendimento é prestado, documentado e gerenciado. A velocidade de adoção da IA está superando a velocidade de supervisão, e reguladores federais, legislaturas estaduais e agências de atuação estão respondendo simultaneamente. A IA está avançando rapidamente, e para os conselhos de sistemas de saúde, acompanhar esses desenvolvimentos requer mais do que conscientização; a governança e supervisão devem evoluir junto com a tecnologia.
O Cenário Regulatório
Os conselhos de sistemas de saúde devem estar cientes da atividade significativa e acelerada entre agências federais, legislaturas estaduais e órgãos de execução, todos elevando o padrão para a governança da IA na saúde.
A nível federal, a administração tem direcionado agências a acelerar a adoção da IA enquanto estabelece diretrizes de governança. O Departamento de Saúde e Serviços Humanos está alinhando suas divisões operacionais em torno de padrões comuns, criando canais para que os provedores participem da implementação. Já foram incorporadas a IA em autorizações prévias, integridade do programa e modelos de pagamento.
Deveres Fiduciários na Era da IA
A IA não cria novos deveres fiduciários para os membros do conselho de sistemas de saúde, mas aumenta a responsabilidade sobre como os existentes são cumpridos.
Dever de Cuidado: Os membros do conselho devem permanecer informados e fazer perguntas difíceis. Espera-se que os membros do conselho ajam com a diligência que uma pessoa razoavelmente prudente usaria ao tomar decisões significativas.
Dever de Lealdade: A aquisição de IA está se tornando um investimento organizacional significativo. Diretores com laços financeiros com fornecedores de IA enfrentam conflitos de interesse que devem ser divulgados e gerenciados.
Dever de Obediência: Para sistemas de saúde sem fins lucrativos, o dever de obediência exige que a organização permaneça fiel à sua missão. A implantação de IA que introduz impactos desiguais pode comprometer a missão e a conformidade com as leis federais de direitos civis.
Implicações e Riscos
O risco não reside em decisões imperfeitas, mas em decisões desinformadas. É essencial ter atas robustas, relatórios regulares sobre riscos de IA e a documentação de supervisão de comitês como partes fundamentais de uma defesa credível.
Perguntas que Cada Conselho de Sistema de Saúde Deve Fazer
Responsabilidade: Quem é responsável pelas decisões de IA em toda a organização? A adoção de IA está superando o desenvolvimento de estruturas de governança, criando um desafio de supervisão em evolução.
Transparência: Quais ferramentas de IA estão em uso e onde? Os conselhos devem exigir que a gestão mantenha um inventário atualizado da IA e identifique sistemas de alto risco.
Controle: Existem barreiras em vigor antes que novas ferramentas de IA entrem em operação? A revisão estruturada antes da implementação não é mais opcional.
Conclusão
A próxima era da IA na saúde recompensará organizações que unem inovação com governança disciplinada. Conselhos de sistemas de saúde que insistem em relatórios claros, controles testados e melhoria contínua estarão melhor posicionados para capturar os benefícios da IA, protegendo a segurança dos pacientes, a privacidade e a conformidade com os direitos civis.
