Umfrage zeigt weitverbreitete Nutzung nicht genehmigter KI-Tools in Gesundheitseinrichtungen
Eine neue Umfrage unter Gesundheitsfachleuten und Administratoren zeigt einen wachsenden Trend: Unautorisierte KI-Tools und -Anwendungen, bekannt als „Shadow AI“, werden derzeit in Gesundheitseinrichtungen eingesetzt. Dies wirft Bedenken hinsichtlich der Patientensicherheit, Datenprivatsphäre und der regulatorischen Compliance auf. Laut der Umfrage haben 40 % der Befragten ein nicht genehmigtes KI-Tool in ihren Organisationen festgestellt, und nahezu 20 % haben diese verwendet.
Häufige Nutzung von Shadow AI
Ärzte und Administratoren wählen KI-Tools aufgrund von Geschwindigkeit und Optimierung des Arbeitsablaufs. Wenn genehmigte Optionen nicht verfügbar sind, gehen sie möglicherweise Risiken ein. Shadow AI ist nicht nur ein technisches Problem; es ist auch ein Governance-Problem, das Bedenken hinsichtlich der Patientensicherheit aufwerfen könnte. Führungskräfte müssen jetzt handeln, um die Policy-Lücke in Bezug auf die Nutzung von KI zu schließen, klare Compliance-Richtlinien zu entwickeln und sicherzustellen, dass nur validierte, sichere und enterprise-bereite KI-Tools in der klinischen Versorgung verwendet werden.
Wichtige Ergebnisse der Umfrage zu Shadow AI
Shadow AI ist weit verbreitet: 40 % der Gesundheitsfachleute haben in ihrem Arbeitsumfeld nicht genehmigte KI-Tools festgestellt, und fast 20 % geben zu, diese verwendet zu haben. Die Hauptgründe sind der Bedarf an schnelleren Arbeitsabläufen. Bei den Anbietern rangiert Neugier und Experimentierfreude etwas höher als „bessere Funktionalität“. Einer von zehn Befragten gab an, ein nicht genehmigtes KI-Tool für einen direkten Patientenanwendungsfall verwendet zu haben.
Lücken in der Policy-Entwicklung und im Bewusstsein: Administratoren sind dreimal so häufig aktiv an der Entwicklung von KI-Richtlinien im Gesundheitswesen beteiligt wie Anbieter (30 % gegenüber 9 %). In Bezug auf das Bewusstsein sind jedoch 29 % der Anbieter über die wichtigsten Richtlinien informiert, während dies nur 17 % der Administratoren sind.
Die Mehrheit der Gesundheitsfachleute nutzt KI-Tools: Mehr als die Hälfte der Gesundheitsfachleute nutzt häufig KI-Tools oder verlässt sich auf diese für ihre Arbeit. Sie äußern eine starke Optimismus über die Auswirkungen von KI auf das Gesundheitswesen, wobei nahezu 90 % zustimmen oder stark zustimmen, dass KI die Gesundheitsversorgung innerhalb der nächsten fünf Jahre erheblich verbessern wird. Die häufigste Nutzung von KI für Anbieter (60 %) und Administratoren (78 %) war die Datenanalyse, was auf eine tiefe Integration in den Arbeitsablauf hinweist.
Patientensicherheit ist ein Hauptanliegen: Sowohl Anbieter (25 %) als auch Administratoren (26 %) betrachten die Patientensicherheit als ihr größtes Anliegen in Bezug auf KI im Gesundheitswesen. Unter den Administratoren ist die Patientensicherheit das größte Gesamtanliegen, gefolgt von Bedenken hinsichtlich Privatsphäre und Datenverletzungen. Anbieter rangieren ungenaue Ausgaben als ihr zweigrößtes Anliegen, während Administratoren Privatsphäre als das zweitgrößte Anliegen einstufen.
Sicherheitsbedenken bezüglich Gesundheitsdaten: Nahezu ein Viertel (23 %) der Gesundheitsfachleute äußern Bedenken hinsichtlich der Sicherheits- und Datenschutzrisiken im Zusammenhang mit KI im Gesundheitswesen, was Ängste vor Datenverletzungen, unbefugtem Zugriff und der Notwendigkeit robuster Schutzmaßnahmen hervorhebt.
Schlussfolgerung
Die Ergebnisse der Shadow AI-Umfrage spiegeln die Perspektive wider, dass die Schaffung von Werten im Gesundheitswesen durch KI von der Reife der organisatorischen Governance abhängt. Während Fortschritte in der Governance erzielt wurden, bleibt noch Arbeit zu leisten, um Werkzeuge zur Kontrolle und Überwachung weiterzuentwickeln, damit sie für klinische Kontexte skalierbar sind. Mit dem Wachstum der klinischen Nutzung müssen Gesundheitssysteme über enterprise-gerechte Kontrollen, Transparenz und Bildung verfügen, damit Kliniker und Patienten verstehen, wann KI Entscheidungen unterstützt, wie sie funktioniert und wo menschliches Urteilsvermögen weiterhin entscheidend ist.
