KI-Governance in der Altenpflege
Die Bedeutung von Künstlicher Intelligenz (KI) in der Altenpflege wächst stetig. Die Anzahl der Menschen, die auf Altenpflege angewiesen sind, nimmt zu, und es wird erwartet, dass die Nachfrage nach Pflegekräften erheblich steigen wird. Die Weltgesundheitsorganisation prognostiziert, dass die Zahl der Menschen im Alter von 60 Jahren und älter bis 2030 auf 1,4 Milliarden und bis 2050 auf 2,1 Milliarden ansteigen wird. Insbesondere die Gruppe der über 80-Jährigen wird sich in den nächsten 30 Jahren verdreifachen.
Die Fortschritte in der Gesundheitsversorgung führen dazu, dass Menschen länger leben. Einrichtungen der Altenpflege stehen vor der Herausforderung, den steigenden Bedarf an Pflegepersonal, medizinischen Diagnosetools und Pflegeeinrichtungen zu decken. Um diese Lücke zu schließen, suchen Organisationen nach innovativen Lösungen, wie z.B. der Implementierung von KI-gestützten Systemen.
KI-gestützte Systeme in der Altenpflege
Einige Einrichtungen haben bereits KI-Managementsysteme beschafft, die mit KI-Agenten ausgestattet sind. Diese Agenten, die von Pflegekräften geschult werden, übernehmen Aufgaben wie die Beratung älterer Menschen, das Dokumentieren der Medikamenteneinnahme unter Aufsicht des Personals und fungieren als soziale Begleiter. Darüber hinaus helfen sie bei der automatischen Planung des Personaleinsatzes.
Die Implementierung solcher Systeme wirft jedoch Fragen zur Sicherheit und Verantwortung auf. In Australien gibt es bisher kein gesetzliches Regelwerk zur Nutzung von KI, was die Notwendigkeit unterstreicht, umfassende Bewertungen durchzuführen. Eine empfohlene Methode ist die Durchführung einer Bewertung basierend auf den ISO/IEC 42001-Kontrollen, die für das KI-Managementsystem in der Altenpflege relevant sind.
Auswahl eines KI-Governance-Rahmens
Die Altenpflegeindustrie in Australien fällt in der Regel unter die Kategorie der kleinen und mittelständischen Unternehmen. Diese Einrichtungen betreuen meist zwischen 1.000 und 2.000 Bewohner mit einem Personal von 200 bis 800 Mitarbeitern. Aufgrund begrenzter Budgets ist es entscheidend, einen geeigneten KI-Governance-Rahmen auszuwählen, der die Sicherheitslage des KI-Managementsystems umfassend verbessert.
Die australische Regierung hat bisher keine spezifischen KI-Rahmenbedingungen oder Gesetze verabschiedet. Die AI Ethics Principles stellen einen Satz von acht Prinzipien dar, die sicherstellen sollen, dass KI sicher, zuverlässig und vertrauenswürdig ist, sind aber nicht detailliert genug für eine umfassende Bewertung. Im Gegensatz dazu konzentriert sich das AI Risk Management Framework des US-amerikanischen National Institute of Standards and Technology auf die Identifizierung, Bewertung und Minderung von KI-spezifischen Risiken über den gesamten Lebenszyklus der KI.
Der Ansatz und die Herausforderungen
Die ISO 42001 besteht aus zehn Klauseln, von denen die Klauseln 4 bis 10 für eine Bewertung relevant sind. Die Durchführung der Bewertung erfolgte in vier Phasen: Definieren, Implementieren, Warten und Verbessern. Dabei wurden die normativen Anhänge der ISO 42001, die die Kontrollziele für KI-Governance und Risikomanagement umreißen, ebenfalls berücksichtigt.
Eine der größten Herausforderungen war das Zeitmanagement der Bewertung. Da eine solche Bewertung noch nie zuvor durchgeführt worden war und die Finanzierung der Einrichtung begrenzt war, musste das Team effizient arbeiten. Die Anforderungen der Klauseln 4 bis 6 wurden innerhalb eines Monats bewertet.
Obwohl der Kontext der Organisation klar definiert war, gab es erhebliche Lücken in der Politik zur Nutzung des Systems. Es fehlten Richtlinien zur Gewährleistung von Fairness, Unvoreingenommenheit und menschlicher Aufsicht.
Diese Lücken könnten erhebliche negative Auswirkungen auf die Moral des Personals und der Pflegekräfte haben. Es wurde empfohlen, eine klare KI-Strategie zu entwickeln, um bestehende Risiken zu identifizieren und entsprechende Pläne zur Risikominderung zu kommunizieren.
Schlussfolgerung
Viele Organisationen drängen darauf, KI-Managementsysteme zu implementieren, ohne angemessene Governance-Strukturen zu etablieren. In Australien gibt es derzeit keine Gesetze, die die sichere und verantwortungsvolle Nutzung von KI vorschreiben. Es ist von entscheidender Bedeutung, dass Organisationen die notwendigen Maßnahmen zur Sicherstellung angemessener Governance und Schutzmaßnahmen ergreifen, um negative Folgen zu vermeiden.
Die Durchführung einer KI-Governance-Bewertung kann dabei helfen, versäumte Sicherheitsvorkehrungen zu identifizieren und die Implementierung von KI-Systemen in der Altenpflege verantwortungsvoll zu gestalten.
