AI-Gesetz: Jetzt ist die Zeit für Krankenhäuser und Anbieter, aktiv zu werden
Das EU AI-Gesetz tritt zunehmend in Kraft, und Krankenhäuser sowie Anbieter haben bis August 2026 Zeit, um sich anzupassen. Die Notwendigkeit für Transparenz und strikte Einhaltung der Vorschriften wird immer deutlicher.
Transparenz und Regulierung
Das AI-Gesetz zielt darauf ab, Transparenz zu schaffen und das Phänomen des „regulatorischen Versteckspiels“ zu beseitigen. Alle Anbieter von KI-Systemen müssen öffentlich zugängliche Informationen über den beabsichtigten Gebrauch und die Leistungsdaten bereitstellen. Diese Maßnahme soll sicherstellen, dass die Nutzung von KI in der Medizin klar dokumentiert ist.
Strengere Vorschriften und Haftung
Mit dem AI-Gesetz werden strenge regulatorische Anforderungen eingeführt, die potenzielle Bußgelder für die Nichteinhaltung nach sich ziehen. Besonders in der Radiologie, wo KI als hochriskant eingestuft wird, gelten strenge Konformitätsbewertungen, die bereits unter dem CE-Zeichen erforderlich sind, jedoch mit verschärfter Aufsicht und kontinuierlicher Überwachung von unerwünschten Ereignissen.
Jede Radiologieabteilung und jeder Radiologe, der KI einsetzt, wird rechtlich als Betreiber eines hochriskanten KI-Systems betrachtet und hat spezifische Verpflichtungen. Risikomanagementsysteme sind erforderlich, um die Zuverlässigkeit von KI zu bewerten und Schäden zu vermeiden.
Bildung und Dokumentation
Die Schulung der Mitarbeiter ist von entscheidender Bedeutung. Die Europäische Gesellschaft für Radiologie (ESR) hat wesentliche Empfehlungen herausgegeben, um Krankenhäuser und Entwickler bei der Navigation durch die neue KI-Landschaft zu unterstützen. KI-Ausbildung muss auf allen Ebenen integriert werden, von den Lehrplänen in der Radiologie bis zu den Schulungsprogrammen in den Krankenhäusern.
Darüber hinaus ist es wichtig, dass Patienten über den Einsatz von KI informiert werden. Die Dokumentation der KI-Nutzung, einschließlich der Verfahren zur Verwendung und der Verfahren, wie man KI nicht verwenden sollte, ist erforderlich.
Regulatorische Sandkästen
Bis August 2026 sind in jedem EU-Land gesetzlich regulatorische Sandkästen erforderlich, um KI-Systeme in kontrollierten Umgebungen zu testen und zu validieren, bevor sie auf den Markt kommen. Diese Sandkästen sind jedoch bisher nicht eingerichtet, was eine wichtige Lücke in der KI-Regulierung hinterlässt.
Strafen und Durchsetzungsmaßnahmen
Das AI-Gesetz sieht strenge Strafen für Verstöße vor, mit Bußgeldern von bis zu 35 Millionen Euro oder 7 % des Jahresumsatzes. Allerdings werden die Durchsetzungsmechanismen erst ab August 2026 verfügbar sein, was bedeutet, dass momentan keine Strafen verhängt werden können.
Politische Spannungen und Innovationsdruck
Die Einführung des AI-Gesetzes hat zu politischen Spannungen geführt. Einige große Technologieunternehmen ziehen sich aufgrund der regulatorischen Unsicherheit aus Europa zurück. Es gibt einen geopolitischen Kampf zwischen den USA und Europa hinsichtlich der KI-Regulierung.
Die Kluft zwischen Leistung und Realität
Dr. Ritse Mann, ein interventionaler Radiologe, hat betont, dass es wichtig ist, die tatsächliche Effizienz von KI im Gesundheitswesen zu überprüfen. KI muss ihren realen Einfluss über technische Genauigkeit hinaus unter Beweis stellen, um tatsächlich einen Nutzen für die Patienten zu bieten.
Viele aktuelle KI-Studien konzentrieren sich auf die technische Leistung und die diagnostische Genauigkeit, ohne zu beweisen, ob KI tatsächlich die Patientenergebnisse verbessert. Dies hinterlässt eine Kluft zwischen den vielversprechenden Fähigkeiten der KI und dem realen klinischen Einfluss.
Um die Wirksamkeit in der realen Welt sicherzustellen, ist eine Post-Marketing-Überwachung von entscheidender Bedeutung, bleibt jedoch unterentwickelt. Die Verstärkung dieser Klauseln sollte in diesem Monat beginnen.
