Der EU AI Act stellt eine regulatorische Herausforderung dar, die jedoch auch als architektonische Spezifikation für die Entwicklung sicherer und effektiver KI-Systeme betrachtet werden kann. Indem man die Anforderungen des Gesetzes als grundlegende Designprinzipien akzeptiert, kann man die Architektur auf Modularität, Beobachtbarkeit und menschliche Interaktion ausrichten.
Die Weltgesundheitsorganisation (WHO) hat eine bahnbrechende Initiative zur Schaffung eines weltweit einheitlichen Governance-Rahmens für künstliche Intelligenz (KI) im Gesundheitswesen angekündigt. Ziel ist es, sicherzustellen, dass KI-Technologien sicher, ethisch und zugänglich sind, insbesondere in Ländern mit niedrigem und mittlerem Einkommen (LMICs).
Die Regulierung von künstlicher Intelligenz (KI) im asiatisch-pazifischen Raum ist noch in den Anfängen und wird größtenteils durch bestehende regulatorische Rahmenbedingungen für andere Technologien bestimmt. In den kommenden Monaten wird jedoch eine umfassende Gesetzgebung erwartet, um die Herausforderungen und Bedenken bezüglich KI anzugehen.
Die regulatorische Landschaft für KI hat in den letzten sechs Monaten monumentale Veränderungen erfahren, wobei die Rhetorik, die Regulierung als Hindernis für Innovation zu betrachten, stärker geworden ist. Die PHG Foundation konzentriert sich darauf, wie bestehende Gesetze und regulatorische Mechanismen besser auf KI angewendet werden können, um verantwortungsvolle Innovation im Gesundheitswesen zu fördern.
Künstliche Intelligenz (KI) revolutioniert derzeit die Gesundheitsbranche, indem sie innovative Lösungen in der Diagnostik, Behandlung und Patientenversorgung einführt. Die rasche Integration von KI in medizinische Geräte bringt jedoch erhebliche regulatorische Herausforderungen mit sich.
Psychische Erkrankungen betreffen weltweit 970 Millionen Menschen, wobei Angstzustände und Depressionen besonders verbreitet sind. Konversationelle KI bietet eine vielversprechende Lösung, um die systematischen Herausforderungen im Gesundheitswesen anzugehen, erfordert jedoch eine kritische Aufmerksamkeit für ethische und verantwortungsvolle Bereitstellung.
Die MHRA hat bereits Gesetze zur Überwachung nach dem Inverkehrbringen veröffentlicht und wird Daten analysieren, um Sicherheitsindikatoren für SaMD zu generieren. Bislang gab es jedoch nur wenig Meldungen über unerwünschte Ereignisse bei SaMD.
Unternehmen, die pharmazeutische oder biotechnologische Produkte mit KI entwickeln, müssen sich bewusst sein, dass die Verwendung von KI in klinischen Studien regulatorisches Interesse wecken könnte. Die Transparenz gegenüber den Regulierungsbehörden über den Einsatz von KI ist entscheidend, um Vertrauen in die Ergebnisse klinischer Studien zu schaffen.
Eine neue Gesetzgebung könnte es künstlicher Intelligenz (KI) ermöglichen, Medikamente zu verschreiben, wenn sie vom Bundesstaat genehmigt und von der FDA autorisiert wird. Ärzte sind optimistisch, was das Potenzial der KI im Gesundheitswesen betrifft, betonen jedoch, dass vor der eigenständigen Verschreibung durch KI mehr Forschung erforderlich ist.
Das EU AI Act ist bereits teilweise in Kraft, und Krankenhäuser sowie Anbieter haben bis August 2026 Zeit, sich anzupassen. Die neuen Vorschriften schaffen mehr Transparenz und verlangen von allen KI-Anbietern, öffentlich zugängliche Informationen über die beabsichtigte Nutzung und Leistungsdaten bereitzustellen.