Wie eine Feuerwehr eine KI-Politik entwickelte, bevor die Technologie die Governance überholte
Künstliche Intelligenz (KI) hat Einzug in den Betrieb lokaler Feuerwehren gehalten und überholt unsere Richtlinien in einer Weise, die für jede Behörde ein Risiko darstellen kann. In Reaktion darauf hat eine Feuerwehrabteilung eine Richtlinie für die Nutzung von KI entwickelt, bevor deren Verwendung die Governance überholte.
Die Herausforderung, aufzuholen
Oft sind wir langsam darin, neue Technologien zu übernehmen, zu verstehen oder zu akzeptieren. Doch als die KI-Plattform ChatGPT ihr viertes Jahr der öffentlichen Verfügbarkeit erreichte, wurde zunehmend klar, dass unsere Zögerlichkeit bei der Entwicklung von Richtlinien unsere Behörde gefährden könnte. Was als individuelles Finden von Möglichkeiten begann, KI in den Arbeitsalltag zu integrieren, entwickelte sich schnell zu einem organisatorischen Anliegen, als wir erfuhren, dass einige Mitarbeiter die Software zur Unterstützung beim Verfassen von Einsatz- und medizinischen Berichten nutzten.
Die administrative Herausforderung bestand darin, ein Governance-Dokument zu erstellen, das in allen Abteilungen der Stadt anwendbar war, flexibel genug, um sich weiterzuentwickeln, ohne ständig aktualisiert werden zu müssen, und dennoch klare Richtlinien für die Mitarbeiter zu bieten. Daher wurde die IT-Abteilung der Stadt einbezogen, um eine stadtweite Richtlinie zu entwerfen, die es jeder Abteilung ermöglicht, spezifische Bedürfnisse zu integrieren.
Entwicklung unserer Richtlinie
Nachdem entschieden wurde, dass die Organisation die Nutzung von KI-Chatbots steuern würde, mussten die erforderlichen Ressourcen bereitgestellt werden. Die Stadt konzentrierte sich auf die ChatGPT-Plattform und mandatiert die Nutzung eines kostenpflichtigen Geschäftsabonnements, da ChatGPT keine Daten aus kostenpflichtigen Mitgliedschaften für zukünftige Modelltrainings verwendet.
Die Richtlinie legt außerdem fest, dass personenbezogene Daten (PII) oder geschützte Gesundheitsinformationen (PHI) strikt verboten sind. Es ist wichtig zu beachten, dass auch scheinbar harmlose Informationen zu PII werden können. Beispielsweise mussten wir klären, ob Mitglieder Adressen, grundlegende Einsatzinformationen und Ergebnisse eingeben konnten, insbesondere wenn diese auf eine bestimmte Person hinweisen könnten. Unser aktueller RMS-Anbieter hat KI-Integrationen für das Verfassen von Berichten, jedoch dürfen keine externen Chatbots zur Unterstützung beim Verfassen von Einsatz- oder Patientenberichten verwendet werden.
Da KI in nahezu alle Software integriert wird, war es zudem wichtig, unsere Prozesse nicht unrealistisch einzuschränken. Daher enthält die Richtlinie der Stadt Formulierungen, die die Nutzung von KI in bereits genehmigten Softwaresystemen (RMS, Microsoft Office usw.) sowie von weit verbreiteten Integrationen wie Google zulassen.
Unsere Richtlinie deutet an, aber definiert nicht vollständig, in welchen Situationen ein Chatbot verwendet werden kann. Es gibt einfach keine Möglichkeit, alle Anwendungsfälle zu erfassen, aber wir erlauben die Nutzung in Bereichen wie Antragstellung, Personalbewertungen, Projektmanagement, Datenanalyse und täglichen Kommunikationen. Ein weiteres hilfreiches Werkzeug ist die Verbindung des Chatbots mit einem gemeinsamen Ordner – in unserem Fall SharePoint –, der alle Richtlinien, Anweisungen und Memos enthält. Dies ermöglicht es den Nutzern, konversationelle Suchen in allen Dokumenten gleichzeitig durchzuführen.
Schließlich betont die Richtlinie, dass das Endprodukt in der Verantwortung des Nutzers liegt. Da die meisten Chatbots auf prädiktiven Modellen basieren, besteht die Möglichkeit, dass sie ungenaue Informationen liefern. Jedes Chatbot-Produkt sollte daher gründlich vom Mitarbeiter überprüft werden, einschließlich der Sicherstellung, dass die Quelle der Informationen gültig ist.
Frühzeitig handeln
Während unsere Abteilung diese Technologie annimmt, haben wir die Effizienz- und Kommunikationsvorteile von KI erkannt, aber es gab auch eine Lernkurve, die voraussichtlich auch in Zukunft bestehen bleibt. Einige einfache Tipps helfen Nutzern, diese Kurve zu minimieren, darunter die Teilnahme an kostenlosen Einführungskursen des Chatbot-Anbieters und das Ausfüllen der Personalisierungseinstellungen im System.
Während sich KI weiterentwickelt, werden Feuerwehren, die frühzeitig, kollaborativ und offen Richtlinien entwickeln, am besten in der Lage sein, deren Nutzung so zu steuern, dass sowohl das Personal der Behörde als auch die Organisationen, die sie bedienen, geschützt werden. Es handelt sich nicht nur um eine technische Übung, sondern vielmehr um eine Führungsverantwortung, bei der die Feuerwehr eine aktive Rolle spielen muss.
