¿Puede la IA ser licenciada como los clínicos?
La IA generativa ya ayuda a los clínicos a interpretar resultados de laboratorio, dosificar antibióticos y responder consultas de pacientes. Los actuales procesos de aprobación para la IA en el ámbito de la salud utilizan el marco de software como dispositivo médico de la FDA, que funciona mejor para herramientas de un solo fabricante diseñadas para realizar tareas específicas, como la clasificación de lesiones pulmonares de alto riesgo. Sin embargo, los productos modernos de IA generativa tienen un conjunto de habilidades más amplio y pueden estar basados en una fundación creada por una empresa, perfeccionados por otra y ampliados mediante complementos de terceros, sin una clara responsabilidad regulatoria.
Propuesta de un nuevo enfoque
Se propone, en una reciente perspectiva, un enfoque diferente: licenciar la IA de manera similar a como se licencia a los médicos humanos, enfermeras practicantes y asistentes médicos, quienes ejercen de manera supervisada y colaborativa. Los autores argumentan que las preocupaciones sobre la IA generativa, como las alucinaciones y la deriva en el rendimiento, reflejan inquietudes de finales del siglo XIX sobre remedios fraudulentos y la variabilidad en la formación de los clínicos. El enfoque de licenciamiento, que combina estándares de práctica con vigilancia y educación continua, puede adaptarse para la regulación de la IA.
Idealmente, una nueva junta federal de licencias digitales supervisaría el marco propuesto. Sin embargo, los organismos federales y estatales existentes podrían desempeñar roles importantes: la FDA podría mantener su función en las evaluaciones previas al mercado, evitando que los desarrolladores tengan que someterse a 50 autoridades de licencias estatales.
Sistemas de salud designados con experiencia en IA podrían funcionar como centros de implementación, y la supervisión y disciplina continuas podrían recaer en las juntas médicas estatales, con un organismo federal coordinador para armonizar estándares.
Un marco de licenciamiento podría ayudar a asegurar que la innovación escale con responsabilidad y no por delante de ella.
Estructura de licenciamiento propuesta
A continuación, se presentan los paralelismos entre el licenciamiento de clínicos y una posible estructura futura de licenciamiento para la IA generativa:
- Concepto de licenciamiento
- Clínico humano
- IA generativa
- Requisitos previos a la licencia:
- Clínico: Título acreditado y aprobación de exámenes nacionales. Período de formación clínica supervisada.
- IA: Validación técnica para competencias predefinidas (exámenes nacionales de IA). Piloto supervisado en «centros de implementación» acreditados.
- Alcance de la práctica:
- Clínico: Delineación de servicios médicos aprobados, poblaciones y grado de autonomía.
- IA: Delineación de funciones aprobadas, poblaciones y grado de autonomía. Orientación sobre supervisión clínica para cada función.
- Credenciales institucionales:
- Clínico: Los sistemas de salud acreditan para realizar procedimientos específicos y pueden suspender privilegios por razones de seguridad.
- IA: Comités de gobernanza de IA en sistemas de salud evalúan la implementación local y pueden revocar privilegios si no se cumplen los umbrales.
- Supervisión continua:
- Clínico: Requisitos de educación continua y evaluaciones periódicas de conocimiento.
- IA: Reevaluaciones anuales de estándares actualizados y reportes de medidas de rendimiento clínico.
- Disciplina/responsabilidad:
- Clínico: Las juntas médicas estatales investigan quejas y pueden multar, suspender o revocar licencias.
- IA: Juntas digitales reciben quejas y pueden colocar sistemas de IA en probatoria; requieren parches o controles adicionales.
La pieza «Software como Practicante Médico—¿Es Hora de Licenciar la Inteligencia Artificial?» aborda estos temas en detalle.
