KI als Medizinprodukt – Welche regulatorischen Überlegungen sind zu beachten?
Künstliche Intelligenz (KI) revolutioniert derzeit die Gesundheitsbranche, indem sie innovative Lösungen in der Diagnostik, Behandlung und Patientenversorgung einführt. Die rasche Integration von KI in medizinische Geräte bringt jedoch erhebliche regulatorische Herausforderungen mit sich.
Regulatorische Rahmenbedingungen in Europa
In Europa sind das EU AI Act 2024/1689 und der UK AI Roadmap für Medizinprodukte wichtige Rahmenwerke, die die Zukunft von KI im Gesundheitswesen gestalten. Diese Gesetze zielen darauf ab, die Entwicklung und Innovation sicherer und vertrauenswürdiger KI zu fördern.
Wer ist betroffen?
Der AI Act gilt für Anbieter, Betreiber und wirtschaftliche Akteure von KI, die innerhalb der EU tätig sind. Er findet keine Anwendung auf die Märkte des Vereinigten Königreichs oder der USA. Bei der regulatorischen Planung ist es entscheidend, zu überprüfen, welche spezifischen KI-Vorschriften für jede Region gelten.
Definition und Risikoklassifizierung von KI
Der AI Act definiert ein „KI-System“ als ein maschinenbasiertes System, das mit unterschiedlichen Autonomiestufen betrieben wird und nach der Bereitstellung Anpassungsfähigkeit aufweisen kann. KI-Geräte werden basierend auf ihren Risikostufen klassifiziert:
- Unakzeptables Risiko: Verboten. Beispiele sind soziale Bewertungssysteme und manipulative KI.
- Hochrisiko-KI: Am stärksten reguliert. Beispiele sind Biometrie, kritische Infrastruktur und medizinische Geräte.
- Begrenztes Risiko: Unterliegt leichteren Transparenzpflichten. Beispiele sind Chatbots und Deepfakes.
- Minimales Risiko: Unreguliert. Beispiele sind KI-unterstützte Videospiele und Spam-Filter.
Der AI Act und das EU Medizinprodukterecht
Der AI Act ist eine horizontale Gesetzgebung, die zusätzlich zur EU Medizinprodukteverordnung (MDR) 2017/745 angewendet wird. Alle Anforderungen der EU MDR müssen weiterhin befolgt werden, wobei auch die zusätzlichen Anforderungen des AI Act zu berücksichtigen sind.
Generische KI (GPAI)
GPAI bezeichnet ein KI-System, das auf einem generischen KI-Modell basiert und die Fähigkeit hat, verschiedene Zwecke zu erfüllen. Anbieter von GPAI-Modellen müssen technische Dokumentationen, Anleitungen zur Nutzung und eine Zusammenfassung des verwendeten Trainingsinhalts bereitstellen.
UK AI Roadmap für Medizinprodukte
Die UK AI Roadmap skizziert die Strategie der Regierung zur Förderung von Innovation bei gleichzeitiger Gewährleistung der Patientensicherheit. Zu den Schlüsselpunkten gehören:
- Regulatorische Sandkästen: Ermöglichen Entwicklern, KI-basierte Medizinprodukte in einer kontrollierten Umgebung zu testen.
- Inklusive Innovation: Gewährleistung, dass Software als Medizinprodukt (SaMD) und KI als Medizinprodukt (AIaMD) effektiv in allen Bevölkerungsgruppen funktionieren.
- Adaptive regulatorische Ansätze: Schaffung eines flexiblen regulatorischen Rahmens, der sich an die rasanten Entwicklungen der KI anpassen kann.
- Zusammenarbeit mit der Industrie: Enge Zusammenarbeit mit Branchenakteuren zur Entwicklung von Richtlinien und Standards.
IEC 62304 und seine Rolle
Der Standard IEC 62304, betitelt „Medizinprodukt-Software – Software-Lebenszyklusprozesse“, ist ein kritisches Rahmenwerk zur Gewährleistung der Sicherheit und Zuverlässigkeit von Software in medizinischen Geräten. Zu den Schlüsselaspekten gehören:
- Software-Sicherheitsklassifizierung
- Lebenszyklusprozesse
- Risikomanagement
Die Zukunft der KI als Medizinprodukte
Die regulatorische Landschaft für KI in medizinischen Geräten entwickelt sich stetig weiter. Es ist wichtig, auf dem neuesten Stand zu bleiben und in kontinuierliches Lernen für Teams zu investieren. Der AI Act der EU und die UK AI Roadmap sind nur der Anfang; es ist notwendig, sich auf zukünftige Anforderungen vorzubereiten.
Die Verantwortung für die Gestaltung der Zukunft der KI in medizinischen Geräten liegt bei uns. Durch die Priorisierung ethischer Praktiken, Zusammenarbeit und Innovation können wir sicherstellen, dass KI-Technologien nicht nur das Gesundheitswesen voranbringen, sondern auch das Vertrauen derjenigen gewinnen, die auf sie angewiesen sind.
