La IA se descontrola en el cuidado de la salud. Quieren solucionar eso.
La industria de la salud ha entrado en una nueva era con la implementación de la IA en la imagen médica, los registros médicos electrónicos y para chequeos iniciales y apoyo en salud mental.
Aunque los algoritmos que detectan patrones en radiografías y registros de salud han ayudado a ahorrar tiempo a los clínicos, el software de IA ha provocado serios errores en la atención a los pacientes, como sesgos raciales que han despriorizado la atención a pacientes negros y ancianos que han sido negados cobertura de seguros para procedimientos que de otro modo habrían sido aprobados.
Enfoque y regulación
El «enfoque de selección» que ha utilizado la mayoría de la industria con la IA, estableciendo reglas sobre la marcha en lugar de contar con pautas y regulaciones completas, está empezando a desgastarse. La falta de regulación en la IA es un tema crítico que necesita atención.
La creación de una guía universal para integrar la IA en los hospitales podría ayudar no solo a los trabajadores de TI de salud, sino también a los clínicos, en un momento en que la alfabetización en IA sigue siendo baja.
Desarrollo de una guía ética
Un proyecto en marcha busca construir una guía universal sobre el uso ético de la IA en el cuidado de la salud, reuniendo a científicos de computación, investigadores en salud pública, éticos y trabajadores de salud para responder a una pregunta clave en la tecnología de salud: ¿Cómo enseñar a los expertos técnicos sobre ética y a los médicos sobre tecnología?
Sin directrices éticas claras, los más de 1,200 dispositivos médicos habilitados para IA actualmente aprobados por la FDA presentan riesgos potenciales de seguridad y salud. Solo un pequeño porcentaje tiene un plan para seguir cómo se está utilizando su producto después de la aprobación.
Necesidades educativas y objetivos
La primera parte de la guía implica que los investigadores trabajen en colaboración con grandes sistemas de salud para entender qué necesitan aprender realmente los trabajadores de salud sobre la IA. La meta es que los trabajadores de salud se acostumbren a hacer preguntas sobre la IA, ya sea al implementar herramientas de IA o al usarlas.
Se busca que la guía sea más que una simple introducción a la ética de la IA. Se concibe como un recurso integral para cada paso del proceso para los sistemas de salud que exploran una tecnología con pocos límites pero con claros límites establecidos.
Por ejemplo, si un hospital desea utilizar una nueva herramienta de detección de imágenes integrada con IA para el cáncer de mama, los administradores consultarían la guía para ver si cumple con las pautas en desarrollo. Una vez comprada e instalada, los trabajadores técnicos del hospital podrían volver a consultar la misma guía para entender qué necesitan monitorear en el futuro.
Conclusión
La creación de una guía ética universal para la IA en el cuidado de la salud es un desafío en constante evolución. A medida que la tecnología avanza rápidamente, la guía será un documento vivo que se adaptará y actualizará con el tiempo.
Se espera que este plano ayude a los trabajadores técnicos en el sistema de salud a comprender y comunicar eficazmente lo que la tecnología debería y no debería hacer.
