Kann KI wie Kliniker lizenziert werden?
Generative KI unterstützt bereits Kliniker bei der Interpretation von Laborergebnissen, der Dosierung von Antibiotika und der Beantwortung von Patientenanfragen. Die aktuellen Genehmigungsverfahren für Gesundheits-KI nutzen das Rahmenwerk der Food and Drug Administration (FDA) für Software als Medizinprodukt (SaMD), das am besten für Werkzeuge eines einzelnen Herstellers geeignet ist, die dafür konzipiert sind, enge Aufgaben zu erfüllen, wie z. B. die Klassifizierung von hochriskanten Lungenläsionen. Modernere generative KI-Produkte verfügen jedoch über ein breiteres Fähigkeitsprofil und könnten auf einer Grundlage aufgebaut sein, die von einem Unternehmen geschaffen, von einem anderen verfeinert und über Drittanbieter-Plug-ins erweitert wird, ohne klare regulatorische Verantwortlichkeit.
Vorschlag für eine Lizenzierung
Ein Senior Fellow schlägt in einem aktuellen Beitrag eine andere Herangehensweise vor: die Lizenzierung von KI in ähnlicher Weise, wie wir menschliche Ärzte, Pflegepraktiker und Arzthelfer lizenzieren, die in überwachten und kollaborativen Weisen praktizieren.
Die Autoren argumentieren, dass die Bedenken hinsichtlich generativer KI, wie Halluzinationen und Leistungsabdrift, den Sorgen aus dem späten 19. Jahrhundert über Scharlatanremedien und variable klinische Ausbildung ähneln. Der Lizenzansatz, der Praxisstandards mit fortlaufender Überwachung und Bildung kombiniert, kann für die Regulierung von KI angepasst werden.
Die Rolle einer neuen Lizenzierungsbehörde
Idealerweise würde ein neuer föderaler digitaler Lizenzierungsausschuss den Rahmen überwachen. Bestehende föderale und staatliche Stellen könnten jedoch ebenfalls wichtige Rollen spielen: Die FDA könnte ihre Rolle bei der Vorabprüfung behalten, um zu verhindern, dass Entwickler sich bei 50 staatlichen Lizenzierungsbehörden bewerben müssen.
Bestimmte Gesundheitssysteme mit KI-Expertise könnten als Implementierungszentren fungieren, und die fortlaufende Überwachung und Disziplin könnte den staatlichen medizinischen Gremien obliegen, mit einem föderalen Koordinierungsgremium zur Harmonisierung von Standards.
Vergleich zwischen klinischer Lizenzierung und KI-Lizenzierung
Ein Lizenzrahmen könnte dazu beitragen, dass Innovationen mit Verantwortung skalieren und nicht davor. Die folgende Tabelle zeigt Parallelen zwischen der Lizenzierung von Klinikern und einer möglichen zukünftigen Lizenzstruktur für KI:
- Lizenzkonzept
- Menschlicher Kliniker: Akkreditierter Abschluss und Bestehen nationaler Prüfungen; Überwachungszeitraum klinischer Ausbildung
- Generative KI: Technische Validierung für vordefinierte Kompetenzen (nationale Prüfungen für KI); Überwachter Pilot in national akkreditierten „Implementierungszentren“ (KI-„Residency“)
- Praxisbereich
- Menschlicher Kliniker: Abgrenzung der genehmigten medizinischen Dienstleistungen, in denen Bevölkerungsgruppen, mit Grad der Autonomie; Zusammenarbeits- oder Aufsichtsvereinbarungen für PAs/NPs
- Generative KI: Abgrenzung der genehmigten Funktionen (z. B. Bildinterpretation), in denen Bevölkerungsgruppen, mit Grad der Autonomie; Richtlinien zur Aufsicht durch Kliniker für jede Funktion
- Institutionelle Akkreditierung
- Menschlicher Kliniker: Gesundheitssysteme akkreditieren zur Durchführung spezifischer Verfahren und zur Überprüfung von Ergebnissen und können Privilegien bei Sicherheitsbedenken aussetzen
- Generative KI: Gesundheitssysteme’ KI-Gremien prüfen standortspezifische Implementierungen, bestimmen lokale Privilegien innerhalb des lizenzierten KI-Praxisbereichs und überwachen lokale Qualitätsmetriken, können ein Privileg widerrufen oder ein Modell deaktivieren, wenn Schwellenwerte nicht erfüllt sind
- Fortlaufende Überwachung
- Menschlicher Kliniker: Fortlaufende Ausbildungsanforderungen und regelmäßige Wissensbewertungen (zum Erhalt der Board-Zertifizierung)
- Generative KI: Jährliche Wiederholung aktualisierter Benchmarks für jede Kompetenz und Berichterstattung über klinische Leistungskennzahlen zur Überprüfung durch den Ausschuss
- Disziplin/Haftung
- Menschlicher Kliniker: Staatliche medizinische Gremien untersuchen Beschwerden und können Lizenzstrafen, Aussetzungen oder Widerrufe verhängen oder Nachschulungen anordnen; Aktionen werden an die nationale Datenbank für Praktiker gemeldet
- Generative KI: Digitale Gremien erhalten und bearbeiten Beschwerden und können das KI-System auf Bewährung setzen; Modellanpassungen oder zusätzliche Sicherheitsvorkehrungen verlangen; Lizenz aussetzen oder widerrufen; Führen eine öffentliche Datenbank über disziplinierte Modelle und Korrekturmaßnahmen
Der Artikel „Software als medizinischer Praktiker – Ist es an der Zeit, künstliche Intelligenz zu lizenzieren?“ erscheint in einer bevorstehenden Ausgabe.
