Contribución a un marco nuevo que asegura el uso ético y justo de la IA en la atención médica
Se ha anunciado la publicación de un marco pionero diseñado para asegurar que los sistemas de inteligencia artificial (IA) utilizados en la atención médica sean desarrollados y desplegados de manera ética, transparente y con la equidad del paciente como prioridad. El marco, llamado Escalable Marco Ágil para la Ejecución en IA (SAFE AI), ha sido publicado en una revista académica líder en investigación digital en salud.
Importancia del SAFE AI para la salud mental
A medida que las herramientas de IA se vuelven más comunes en la atención psiquiátrica y de salud conductual, crecen las preocupaciones sobre la equidad y el sesgo. Sin una supervisión intencional, los sistemas de IA pueden reflejar o amplificar desigualdades presentes en los datos de entrenamiento, lo que podría impactar la calidad de la atención para poblaciones ya desatendidas.
El marco SAFE AI aborda directamente este desafío al establecer procesos rigurosos para garantizar la equidad entre grupos de pacientes. Esto incluye la monitorización continua para detectar «desviaciones de sesgo», evaluaciones del rendimiento por subgrupos y estrategias de comunicación claras para transmitir las limitaciones de la IA a los clínicos.
Investigación respaldada por asociaciones colaborativas
El marco fue desarrollado por un equipo de investigación, apoyado en parte por una fundación relacionada, y colaboró con socios clave. Este proyecto ejemplifica el compromiso de llevar la investigación académica directamente a la innovación en el cuidado de la salud.
Avanzando hacia una IA responsable en la salud conductual
El desarrollo de este marco posiciona a la institución como un líder nacional en guiar el desarrollo ético de sistemas de IA para la atención médica, especialmente en salud conductual, donde las vulnerabilidades de los pacientes y los sesgos complejos requieren una supervisión más intensa.
El marco SAFE AI asegura que los sistemas de IA utilizados en la atención médica sean éticos, transparentes y mantengan la equidad del paciente como el centro de su implementación.
