La IA acelera su entrada en el sector salud. ¿Quién debería regularla?
La inteligencia artificial (IA) se está integrando rápidamente en el sector salud, ofreciendo potenciales beneficios, pero también posibles riesgos como sesgos que pueden llevar a una atención desigual y al agotamiento de médicos y otros trabajadores de la salud. En Estados Unidos, aún no se ha decidido cómo debería regularse.
En septiembre, una entidad acreditadora de hospitales emitió recomendaciones para la implementación de la IA en la atención médica, recayendo gran parte de la responsabilidad de cumplimiento en las instalaciones individuales.
Necesidad de regulación
Es evidente que la IA en la atención médica requiere regulación, ya sea mediante autorregulación interna o regulación gubernamental externa. Hasta ahora, la regulación ha sido mayormente interna, y existen diferencias en cómo cada sistema hospitalario valida, revisa y monitorea la IA en salud. Realizar esta evaluación de manera individual puede generar costos significativos, lo que significa que algunos hospitales pueden hacerlo y otros no.
Además, la variedad de productos de IA en los hospitales es complicada. Algunos pueden ayudar con la compra interna y la revisión, pero muchos más son clínicos o están relacionados clínicamente. Algunos productos de IA médica interactúan directamente con los consumidores, como chatbots para salud mental, y para estos la necesidad de regulación es aún más clara.
Importancia de la velocidad en la regulación
El ecosistema de innovación en este campo tiene mucha energía de startups, lo cual es positivo. Sin embargo, la rápida escalabilidad de la IA, sin mucha revisión interna, puede dejar de lado cuestiones éticas. La mayoría de la IA médica nunca es revisada por un regulador federal, lo que pone de manifiesto la necesidad de establecer estándares para la IA en salud.
Implementar la IA en los hospitales debe hacerse cuidadosamente, ya que su rendimiento puede variar en función de los recursos, la formación y la experiencia del personal. Esto representa un desafío inusual para las agencias reguladoras, que a menudo afirman no regular la práctica médica.
Recomendaciones de regulación
Las recomendaciones de la entidad acreditadora incluyen la notificación a los pacientes cuando la IA impacta directamente su atención y la obtención de consentimiento cuando sea pertinente. También se requiere un monitoreo continuo de la calidad y pruebas, validación y supervisión del rendimiento de la IA. Sin embargo, estos procesos pueden ser difíciles y costosos de implementar.
Se estima que la evaluación de un algoritmo complejo puede costar entre $300,000 y $500,000, lo que está fuera del alcance de muchos sistemas hospitalarios. Esto podría crear una distribución desigual en el acceso a la IA que ayuda en la atención médica, lo que afectaría a los hospitales más pequeños y a las comunidades con menos recursos.
Conclusión
Se vislumbra un futuro emocionante con la IA médica, pero es crucial que se alineen los incentivos y se aborden las preocupaciones distributivas en cualquier intento de legislar en esta área. La difusión de estas tecnologías a entornos con menos recursos es prometedora, siempre y cuando se garantice que todos los hospitales puedan participar en esta evolución.
