Erstens, kein Schaden: Gestaltung der Governance von Gesundheits-AI in einer sich verändernden globalen Landschaft
Die regulatorische Landschaft für Künstliche Intelligenz (AI) hat in den letzten sechs Monaten monumentale Veränderungen erfahren. Die Rhetorik, die Regulation als Barrier für AI-Innovation und die sich ergebenden Möglichkeiten, insbesondere für Gesundheit und Lebenswissenschaften, betrachtet, hat an Fahrt gewonnen.
Im letzten Herbst gab es Gerüchte, dass die USA ihren Kurs in Bezug auf die AI-Regulierung ändern würden. Seitdem hat Präsident Donald J. Trump viele Schritte der Biden-Administration in Richtung spezifischer AI-Regulierung zurückgenommen. Auch die EU hat unerwartet ihre Bemühungen aufgegeben, den vorgeschlagenen AI Liability Directive anzunehmen, und hat ein Arbeitsprogramm eingeführt, das darauf hindeutet, dass sie ebenfalls einen innovationsfreundlicheren Ansatz verfolgen könnte.
Das Vereinigte Königreich hat ebenfalls eine pro-innovative Rhetorik in seiner AI-Politik übernommen. Ihr regulatorischer Ansatz unterscheidet sich jedoch charakteristisch von dem der EU und der USA: Es wurden keine spezifischen AI-Regulierungen wie in der EU geschaffen, noch wurde eine starke Deregulierung zur Förderung von Innovationen wie in den USA eingeleitet. Stattdessen wird typischerweise versucht, bestehende gesetzliche Regelungen oder Richtlinien zu überarbeiten und anzupassen, um AI-Entwickler zu unterstützen und die Öffentlichkeit zu schützen.
Governance und Haftung in der medizinischen AI: Wer ist verantwortlich, wenn AI versagt?
Da AI-Tools im Gesundheitswesen in bestimmten Aufgaben menschliche Fähigkeiten übertreffen, wird es zunehmend komplex, das richtige Gleichgewicht zwischen AI-Autonomie und menschlicher Aufsicht zu finden. Fragen der Verantwortung und Haftung, insbesondere wenn Schaden entsteht, stehen nun im Mittelpunkt für Regulierer, Entwickler und Kliniker.
Um diese Herausforderungen zu beleuchten, wurde in einem Workshop der PHG Foundation und des Centre for Law, Medicine and Life Sciences untersucht, wie verschiedene regulatorische Regime – einschließlich medizinischer Gerätegesetze, des EU AI-Gesetzes, des Datenschutzes sowie der Fahrlässigkeits- und Produkthaftungsgesetze – miteinander verknüpft sind. Die Diskussionen führten zu wertvollen Erkenntnissen und einer Reihe drängender Fragen für politische Entscheidungsträger, Forscher und Regulierungsbehörden.
Synthetische Gesundheitsdaten
Synthetische Daten haben ein erhebliches Potenzial, die Entwicklung und den Einsatz von Künstlicher Intelligenz als medizinisches Gerät (AIaMD) voranzutreiben, insbesondere in Bereichen, in denen reale Daten begrenzt, sensibel oder kostspielig zu beschaffen sind. Während bestehende Richtlinien eine solide Grundlage bieten, erfordert die Verwendung synthetischer Daten zusätzliche Klarheit, insbesondere wenn sie einen zentralen Bestandteil der Beweisgrundlage in regulatorischen Einreichungen bilden.
Herausforderungen für die Überwachung von medizinischen AI nach dem Markteintritt
AI bringt auch Herausforderungen für die Regulierung medizinischer Geräte mit sich, die bereits im Einsatz sind, da sich potenziell Änderungen ergeben können, die ihre Sicherheit und Leistung betreffen. Das innovative und kooperative Vorgehen, das die MHRA durch ihr AI Airlock-Programm verfolgt, zielt darauf ab, neuartige regulatorische Herausforderungen, die durch AI entstehen, zu identifizieren und anzugehen. In einem Workshop im März wurden klinische, technische, politische, rechtliche und regulatorische Experten zusammengebracht, um Verständnis und Ideen zu den Überwachungs- und Berichtserfordernissen für AI im Rahmen der Nachmarktüberwachung medizinischer Geräte zu generieren.
Wichtige Themen, die in den Projekten durchlaufen
- Agile Regulierung und internationale Ausrichtung sind entscheidend: Mit den sich beschleunigenden Fähigkeiten von AI müssen Regulierungsbehörden dynamisch reagieren können.
- Regulatorische und ethische Bedenken sind nicht verschwunden: Sie sind derzeit nicht die dominierende Erzählung, aber sie werden mit der erneuten Betonung von Innovation schnell wieder sichtbar.
- Ressourcierung: Es ist wichtig sicherzustellen, dass Regulierungsbehörden über die Ressourcen und das Fachwissen verfügen, um mit den sich schnell entwickelnden Technologien Schritt zu halten.
Die PHG Foundation arbeitet mit einer Vielzahl von Partnern an diesem empfindlichen Balanceakt, um die verantwortungsvolle Einführung von AI-Technologien zu fördern, die nicht nur innovativ, sondern auch effektiv, sicher und wirklich gesundheitsfördernd sind.
