Co-Kreation von verantwortungsbewusster und ethischer KI mit Gesundheitsakteuren
Die Einbettung ethischer Prinzipien in die Entwicklung von Künstlicher Intelligenz (KI) erfordert einen integrierten, multistakeholder Ansatz, der nicht nur Entwickler, sondern auch Geschäftsbenutzer und Kunden einbezieht.
Verantwortungsvolle und ethische KI in der öffentlichen Gesundheitsversorgung
Bei der Entwicklung von KI-Lösungen ist es wichtig, aus der Perspektive der Benutzer zu starten, zu verstehen, wer betroffen ist, und eng mit ihnen zusammenzuarbeiten, um effektive und sichere Lösungen zu entwickeln.
Auf dem Panel mit dem Titel „Über die Einhaltung hinaus: Verantwortungsvolle und ethische KI in Singapurs öffentlicher Gesundheitsversorgung“ wurde der Konsens erzielt, dass die praktische Anwendung der Theorie durch eine ergänzende Perspektive auf dem Boden notwendig ist, um praktische Anwendungsfälle für KI zu identifizieren.
Die Umsetzung ethischer Prinzipien in der Praxis
Öffentliche Gesundheitseinrichtungen können verantwortungsvolle und ethische KI-Prinzipien in ihre täglichen Arbeitsabläufe einbetten, indem sie spezifische Werkzeuge wie Bedrohungsmodellierung und die Daten-Ethische-Karte-Praxis verwenden. Diese Praktiken helfen, sicherzustellen, dass verantwortungsvolle KI nicht nur ein theoretisches Konzept bleibt, sondern in den Denkprozess des Produktteams integriert wird.
Ein Beispiel für die Daten-Ethische-Karte ist, dass sie Diskussionen darüber leitet, wie Daten verwendet, zugegriffen und gespeichert werden. Dies stellt sicher, dass verantwortungsvolle KI in allen Phasen des Projekts berücksichtigt wird.
Pragmatismus über Perfektion
Das Kernkonzept besteht darin, dass der Bau eines perfekten, 100 Prozent genauen KI-Modells nicht immer das Ziel ist. Vielmehr geht es darum, zu entscheiden, wie viel Fehler für einen bestimmten Anwendungsfall und Kontext akzeptabel ist. Öffentliche Gesundheitseinrichtungen müssen einen pragmatischen Ansatz verfolgen, der ein Gleichgewicht zwischen verschiedenen Bedürfnissen wie Genauigkeit, Ethik und Praktikabilität priorisiert.
Eine schrittweise Bewertung der Daten ist wichtig, um sicherzustellen, dass sie repräsentativ für die Realität sind. Das Panel erkannte die Verzerrung als ein Problem, das nicht nur in einer Phase behoben werden kann, sondern von der anfänglichen Datensammlung bis hin zum fortlaufenden Betrieb des KI-Systems angegangen werden muss.
Der Bedarf an einem ganzheitlichen Ansatz
Ein weiterer herausfordernder Punkt war es, die Kluft zwischen der Absicht der Regierung, der Öffentlichkeit zu helfen, und der Wahrnehmung der Öffentlichkeit, überwacht oder verfolgt zu werden, zu schließen. Besonders im öffentlichen Sektor müssen die Agenturen transparent mit den Endbenutzern darüber kommunizieren, welche Daten verwendet werden und wie diese mit KI verarbeitet werden, um eine vertrauensvolle Beziehung zur Öffentlichkeit aufzubauen.
Ökosystemansatz zur Governance von Generativer KI
Singapur verfolgt einen ganzheitlichen Regierungsansatz, um seine nationale Bevölkerungsbewegung für Gesundheit, Healthier SG, einzuführen. Im Fall des Health Promotion Board (HPB) reicht eine einzelne App mit den individuellen Daten eines Nutzers möglicherweise nicht aus, um nachhaltige Veränderungen zu fördern, da die Gesundheit der Menschen von anderen Faktoren in ihrer Umgebung beeinflusst wird.
Da KI-Systeme Daten aus anderen Quellen und potenziellen Interventionspunkten erfassen, ist ein Ökosystemansatz erforderlich, um KI-Systeme zu steuern. Mit dem zunehmenden Umfang der gesammelten Daten zur Ausbildung von KI betonen die Redner die kritische Notwendigkeit für ethische Grenzen und Schutzmaßnahmen.
KI-Systeme müssen mit klaren Einschränkungen und einem eingebauten Sicherheitsnetz entworfen werden, das sicherstellt, dass menschliches Eingreifen erforderlich ist, wenn es nötig ist. Sie müssen innerhalb ihres festgelegten Rahmens bleiben und keine Ratschläge zu Themen geben, in denen sie nicht spezialisiert sind, wie z.B. medizinische Angelegenheiten.
Dies stellt sicher, dass die KI als Unterstützung und nicht als Ersatz für menschliche Expertise fungiert und ein Sicherheitsnetz für Situationen bietet, für die sie nicht ausgestattet ist.
