Regulierung von KI-Tools im Gesundheitswesen: Ein neuer Bericht

Neuer Bericht entwirrt die komplexe Regulierung von Gesundheits-AI-Tools

Ein neuer Bericht untersucht die komplexe und oft fragmentierte regulatorische Landschaft für Gesundheits-AI-Tools, die außerhalb der Zuständigkeit der U.S. Food and Drug Administration (FDA) fallen. Da KI zunehmend im Gesundheitswesen integriert wird – von der Automatisierung administrativer Aufgaben bis hin zur Unterstützung klinischer Entscheidungen – operieren diese Tools innerhalb eines Wirrwarrs von Bundesvorschriften, Landesgesetzen und freiwilligen Branchenstandards.

Wichtige Erkenntnisse

Der Bericht skizziert die Arten von Gesundheits-AI, die nicht als medizinische Geräte reguliert werden, die wichtigsten Bundes- und Landesbehörden, die Aufsicht bieten, und die Herausforderungen sowie Chancen, die dies für eine verantwortungsvolle Innovation schafft.

KI-Tools, die zur Diagnose, Prävention oder Behandlung von Krankheiten entwickelt wurden, unterliegen der Regulierung durch die FDA als medizinische Geräte. Eine große und wachsende Kategorie von Gesundheits-AI operiert jedoch außerhalb dieser formalen Aufsicht. Diese Tools werden stattdessen von einer Mischung aus Richtlinien von Behörden wie dem Department of Health and Human Services (HHS), der Federal Trade Commission (FTC) und verschiedenen Landesbehörden geregelt.

Häufige Kategorien von Gesundheits-AI

Die gängigen Kategorien von Gesundheits-AI, die typischerweise nicht von der FDA reguliert werden, umfassen:

• Administrative AI: Werkzeuge, die nicht-klinische Funktionen unterstützen, wie die Automatisierung von Genehmigungen, die Erkennung von Abrechnungsbetrug, die Vorhersage von Personalbedarf oder die Verwaltung von Terminen.
• Klinische Unterstützung und Pflegemanagement-Tools: KI, die in elektronischen Gesundheitsakten (EHR) integriert ist und Patientendaten analysiert, um Nachverfolgungsaktionen vorzuschlagen, wie z. B. das Markieren eines Patienten als überfällig für ein Krebs-Screening. Diese Tools sind dazu gedacht, die klinische Entscheidung zu unterstützen, nicht zu ersetzen.
• Verbraucher-Wellness- und digitale Gesundheits-Tools: Patientenorientierte Apps und Geräte, die sich auf allgemeine Wellness konzentrieren, wie Fitness-Tracker, Meditations-Apps und Schlaf-Tracker.

Wie das Gesetz über die Heilmittel des 21. Jahrhunderts die KI-Aufsicht gestaltet

Das Gesetz über die Heilmittel des 21. Jahrhunderts von 2016 war entscheidend für die Definition der Befugnisse der FDA über Gesundheitssoftware. Es stellte klar, dass bestimmte klinische Entscheidungsstützungs- (CDS) Tools von der Klassifizierung als medizinische Geräte ausgenommen sind, wenn sie vier spezifische Kriterien erfüllen:

1. Sie analysieren keine Bilder oder Signale (wie Röntgenbilder oder Herzfrequenzen).
2. Sie verwenden bestehende medizinische Informationen aus der Patientenakte.
3. Sie unterstützen, ersetzen jedoch nicht die endgültige klinische Entscheidung.
4. Ihre Empfehlungen können unabhängig vom Anbieter überprüft und verstanden werden.

Wenn ein Tool auch nur ein Kriterium nicht erfüllt, kann es als Software als medizinisches Gerät (SaMD) betrachtet werden und unter die Aufsicht der FDA fallen. Dies schafft einen erheblichen „Graubereich“, der für Entwickler herausfordernd sein kann.

Verteilte Aufsicht für nicht regulierte KI-Tools

Für KI-Tools, die nicht als medizinische Geräte gelten, wird die Aufsicht auf mehrere Bundes- und Landesbehörden verteilt, was sowohl Flexibilität als auch potenzielle Lücken schaffen kann.

• Büro des Nationalkoordinators für Gesundheits-IT (ONC): Wenn ein KI-Tool in eine zertifizierte EHR integriert ist, verlangen die Regeln des ONC von den Entwicklern, den beabsichtigten Gebrauch, die Logik und die Dateninputs des Tools offenzulegen.
• Büro für Bürgerrechte (OCR): Jedes Tool, das geschützte Gesundheitsinformationen (PHI) verarbeitet, unterliegt der Durchsetzung von HIPAA durch das OCR.
• Federal Trade Commission (FTC): Die FTC kann gegen Unternehmen vorgehen, die irreführende Marketingansprüche über ihre KI-Tools machen.
• Centren für Medicare und Medicaid Services (CMS): CMS kann die Einführung von KI-Tools durch seine Erstattungsrichtlinien beeinflussen.
• Bundesstaatliche Aufsicht: Die Bundesstaaten sind zunehmend aktiv in der Regulierung von KI, was zu einer Vielzahl von Ansätzen führt, von umfassenden KI-Risikogesetzen bis hin zu gezielten Offenlegungs- und Verbraucherschutzgesetzen.

Schlussfolgerung

Der Bericht kommt zu dem Schluss, dass die derzeit fragmentierte Landschaft Unsicherheit für Entwickler schafft, die Einführung für Anbieter kompliziert und Lücken im Patientenschutz hinterlässt. Während die Branche vorankommt, müssen politische Entscheidungsträger und Branchenführer weiterhin zusammenarbeiten, um klare Rahmenbedingungen und gemeinsame Standards zu entwickeln, die eine verantwortungsvolle Innovation unterstützen, das Vertrauen der Patienten sicherstellen und die Qualität der Versorgung verbessern.

„Die KI-Revolution im Gesundheitswesen ist bereits im Gange und transformiert, wie Pflege bereitgestellt wird, und wirft neue Fragen zur Regulierung auf. Während politische Entscheidungsträger und Behörden daran arbeiten, verantwortungsvolle Innovation mit dem Schutz von Patienten in Einklang zu bringen, ist ein klares Bild der heutigen regulatorischen Landschaft unerlässlich“, heißt es in dem Bericht.