Situación de la gobernanza y preocupaciones regulatorias para la inteligencia artificial generativa y los modelos de lenguaje grande en la educación médica
La inteligencia artificial generativa (GenAI) se refiere a modelos de aprendizaje profundo que pueden generar contenido de alta calidad basado en los datos con los que fueron entrenados. Los modelos de lenguaje grande (LLMs) son una categoría de modelos de base entrenados con cantidades inmensas de datos. Aunque no tienen la capacidad inherente de entender el texto y los datos, estos modelos pueden generar lenguaje natural de manera similar al humano, lo que es percibido como “conversacional” por los usuarios.
GenAI, incluidos los LLMs, ofrece a los educadores y aprendices en medicina y ciencias de la salud oportunidades sin precedentes para la enseñanza y el aprendizaje. La capacidad de utilizar enfoques multimodales se ha demostrado en la educación de electrofisiología cardíaca y en patología digital.
Importancia de la regulación
A medida que la GenAI se integra por completo en la educación médica, surgen preocupaciones sobre la necesidad de regulación. Educadores, organismos profesionales y gobiernos expresan su preocupación sobre la influencia de esta tecnología en la educación y la integridad académica. Las pautas y consideraciones éticas están en constante desarrollo, incluyendo recomendaciones para la integración de la IA en los planes de estudio médicos.
La regulación, en su forma más amplia, se refiere a las directrices diseñadas para controlar y gobernar la conducta en el ámbito educativo y clínico. En el contexto de la educación médica, la regulación se relaciona con la acreditación y validación, garantizando que se cumplan los estándares de calidad y competencia.
Consideraciones pedagógicas
La integración de GenAI en el proceso de aprendizaje es fundamental. La capacidad de los estudiantes para utilizar la información previamente aprendida de manera significativa, conocida como educabilidad, es un aspecto vital que distingue su capacidad de aprendizaje de la de las máquinas. Aunque GenAI puede ser una herramienta útil en la educación médica, no reemplaza las experiencias y las interacciones sociales que son cruciales para el desarrollo de estudiantes empáticos y conscientes del contexto.
Razonamiento clínico y GenAI
El principal desafío que presenta GenAI radica en su componente de “caja negra”, que puede complicar la enseñanza de habilidades de razonamiento clínico y toma de decisiones. Aunque GenAI puede ofrecer explicaciones plausibles, estas no siempre representan de manera precisa cómo se tomaron las decisiones, lo que podría afectar la formación de habilidades críticas en los estudiantes.
Además, el uso de LLMs en la educación médica plantea preocupaciones sobre la evaluación crítica y el pensamiento analítico, ya que los estudiantes podrían volverse excesivamente dependientes de estas tecnologías, sacrificando habilidades esenciales en su formación.
Integridad académica
La detección del uso indebido de LLMs para el plagio sigue siendo un desafío, dada la falta de transparencia tanto de los programas de GenAI como de las herramientas de detección. La capacidad de GenAI para pasar exámenes de alta exigencia subraya la necesidad de repensar las metodologías de evaluación en educación médica. La evaluación programática, que abarca una variedad de tareas de evaluación, puede ser más resistente al uso no autorizado de GenAI.
Se aconseja a los educadores que reconsideren cómo maximizar la utilidad de GenAI mientras mitigan las preocupaciones sobre su posible mal uso. La formación de los estudiantes debe incluir la crítica y evaluación de la información generada por GenAI, evitando que esta actuación se convierta en un apoyo automatizado en la toma de decisiones clínicas.
Conclusión
La intersección entre la GenAI y la educación médica plantea cuestiones de gobernanza y regulación. A medida que la tecnología evoluciona, es esencial que se establezcan marcos regulatorios adecuados que garanticen el uso seguro y ético de estas herramientas. La colaboración entre humanos y GenAI permitirá avanzar en las posibilidades de aprendizaje y eficiencia, evitando la sobre-regulación que podría sofocar la innovación.
