Während des vierten jährlichen AI Health Law & Policy Summit diskutierten führende Denker und politische Entscheidungsträger über die sich entwickelnden regulatorischen Paradigmen, die die KI im Gesundheitswesen betreffen. Die Paneldiskussion konzentrierte sich auf die Herausforderungen der globalen Compliance für KI-gestützte Medizinprodukte im Rahmen des EU-Gesetzes zur künstlichen Intelligenz.
Die EU-Kommission hat einen Bericht über das Stakeholder-Feedback zu KI-Definitionen und verbotenen Praktiken veröffentlicht, der Bedenken hinsichtlich der Regulierung konventioneller Software aufzeigt. Zudem wird die Notwendigkeit betont, ein ausreichendes Verständnis von KI bei Mitarbeitern sicherzustellen, während die Suche nach einem leitenden wissenschaftlichen Berater für das KI-Büro fortgesetzt wird.
Mit dem Fortschritt der KI-Entwicklung wird deren Einsatz in der Cybersicherheit unvermeidlich, da sie dabei helfen kann, Cyberbedrohungen auf beispiellose Weise zu erkennen und zu verhindern. Gleichzeitig können jedoch auch kriminelle Akteure KI nutzen, um raffiniertere Angriffsmethoden zu entwickeln, was neue Herausforderungen für die Sicherheit mit sich bringt.
Das EU AI Act ist eine umfassende Regulierung, die klare Richtlinien für die Nutzung von Künstlicher Intelligenz (KI) festlegt und gleichzeitig grundlegende Rechte schützt. Für Unternehmen in den Bereichen Druck und Dokumentenmanagement bringt diese regulatorische Änderung sowohl Herausforderungen als auch Chancen mit sich.
Der EU AI Act soll sicherstellen, dass KI ethisch und verantwortungsvoll eingesetzt wird und verpflichtet Anbieter und Nutzer von KI-Systemen dazu, dass ihre Mitarbeiter über ausreichende KI-Kompetenzen verfügen. Dieser Gesetzesentwurf könnte der Anstoß sein, den wir benötigen, um die KI-Schulung am Arbeitsplatz zu priorisieren.
EU-Politikberater Kai Zenner warnte, dass viele EU-Mitgliedstaaten finanziell angespannt sind und nicht über das notwendige Fachpersonal verfügen, um das AI-Gesetz effektiv durchzusetzen. Bis zum 2. August müssen die EU-Länder Regeln für Strafen und Bußgelder im Rahmen des AI-Gesetzes festlegen.
Die Durchsetzung des EU AI Acts wird durch einen Mangel an Finanzierung und Fachwissen behindert, sagte der digitale Politikberater des Europäischen Parlaments, Kai Zenner. Viele Mitgliedstaaten stehen vor finanziellen Herausforderungen und verlieren zudem technische Talente an Unternehmen, die mehr zahlen können.
Die endgültige Version des EU-GPAI-Code of Practice sollte bis zum 2. Mai veröffentlicht werden, doch dieser Termin wurde verpasst. Das EU AI Office hat nun bestätigt, dass der Code bis August veröffentlicht wird, was darauf hindeutet, dass es möglicherweise nicht viel Zeit zwischen der Veröffentlichung des endgültigen Entwurfs und dem Inkrafttreten der Bestimmungen des EU AI Act geben wird.
Weniger als drei Monate vor der Frist müssen die 27 EU-Mitgliedstaaten eine Behörde benennen, die für die Überwachung der Einhaltung des AI-Gesetzes zuständig ist. In mindestens der Hälfte der Mitgliedstaaten ist unklar, welche Behörde nominiert wird.
Philips glaubt, dass der regulatorische Rahmen für KI-Medizinprodukte die Sicherheit der Patienten gewährleisten muss, während ein florierendes und wettbewerbsfähiges europäisches KI-Ökosystem erhalten bleibt. Der AI Act, der im letzten Sommer in Kraft trat, wird voraussichtlich viele KI-Medizinprodukte als hochriskant einstufen.