AI-Anbieter zu Governance und Regulierungsfragen
Gesundheitssysteme und Start-up-Unternehmen müssen in der Implementierung neuer KI-basierter Tools komplizierte Governance- und Regulierungsfragen navigieren. Ein kürzlich abgehaltenes Webinar von Manatt Health, einer Beratungs- und Dienstleistungsfirma, brachte Führungskräfte zweier Start-ups zusammen, die Gesundheitssysteme bei der KI-Governance unterstützen. Die Referenten stellten fest, dass viele Gesundheitssysteme zwar über das Fachwissen zur Überwachung von Machine-Learning-Modellen verfügen, jedoch nicht über die Infrastruktur und Kapazitäten, um dies in großem Maßstab zu tun.
Regulatorische Trends und Standards
Das Treffen begann mit Randi Seigel, J.D., einem Partner bei Manatt, die einen Überblick über den aktuellen Stand der Governance gab, einschließlich der jüngsten Leitlinien der Joint Commission/CHAI. Seigel sprach über einige erste, aber gescheiterte Versuche zur KI-Gesetzgebung im Kongress und beschrieb Modelle, die von Verbänden entwickelt werden. Beispielsweise hat die National Association of Insurance Commissioners ein Modellbulletin zum Einsatz von KI durch Versicherer erstellt, das von vielen Bundesstaaten übernommen wurde. “Sie haben auch kürzlich einen Bericht veröffentlicht, der beschreibt, wie verschiedene Versicherer mit künstlicher Intelligenz umgehen und wie sie ihren Governance-Prozess etabliert haben,” sagte sie.
Zusätzlich haben die Joint Commission und die Coalition for Health AI ihre vorgeschlagenen Leitlinien für die Einführung von KI-Best Practices im Gesundheitssektor veröffentlicht. “Sie decken Empfehlungen zu KI-Richtlinien und Governance-Strukturen, Patientenschutz und Transparenz, Datensicherheit, Schutz der Datennutzung, laufende Qualitätsüberwachung, Berichterstattung über Sicherheitsereignisse, Risikobewertung und Schulung ab,” erklärte sie.
Die Leitlinien empfehlen auch, dass Gesundheitsorganisationen einen Prozess für die freiwillige, vertrauliche und anonymisierte Berichterstattung über KI-Sicherheitsereignisse einführen sollten. Zudem werden Best Practices für die KI-Governance empfohlen, einschließlich eines risikobasierten Managements von Dritten und der Bewertung intern entwickelter und gekaufter Tools.
Herausforderungen in der Umsetzung
Troy Bannister, CEO von Onboard AI, bemerkte, dass nur ein kleiner Prozentsatz der Krankenhaussysteme über die Ressourcen verfügt, um ein umfassendes, reaktionsschnelles Monitoring für KI-Tools einzurichten. “Die größte Rückmeldung von den Krankenhäusern war, dass sie kein Monitoring für jedes KI-Tool einrichten können. Das ist ein riesiger Aufwand für uns,” sagte Bannister. Er wies darauf hin, dass die meisten Krankenhäuser mit risikoarmen Anwendungsfällen beginnen.
Mark Sendak, M.D., M.P.P., Co-Gründer und CEO von Vega Health, betonte, dass es nicht an Standards fehle, sondern an der Expertise und Infrastruktur, um KI-Modelle im großen Maßstab zu überwachen. “Die Branche weiß seit Jahren, wie man diese Modelle bewertet und überwacht. Wir haben einfach nicht die skalierbare Infrastruktur und die Fähigkeit, dies für jede Lösung in jedem Gesundheitssystem zu tun,” sagte er.
Regulatorische Ansätze
Seigel erwähnte, dass Senator Ted Cruz den SANDBOX Act eingeführt hat, der ein regulatorisches Sandbox-Programm schaffen würde, um Unternehmen, die an KI-Produkten arbeiten, die Beantragung von Ausnahmen oder Änderungen bestimmter Vorschriften zu ermöglichen. Die Panelisten waren jedoch skeptisch gegenüber dieser Idee.
Sendak plädierte für ein Modell ähnlich den Clinical Laboratory Improvement Amendments (CLIA), bei dem es einen vereinbarten Standard für Praktiken gibt, aber die Industrie auf ein verteiltes Netzwerk von Organisationen angewiesen ist, um die internen Fähigkeiten zur Qualitätssicherung von KI im großen Maßstab aufzubauen.
