OP-ED: Die Beschaffungsreforms von Neufundland und Labrador zeigen eine neue Herausforderung in der Governance
Ein kürzlich für die Regierung von Neufundland und Labrador erstellter Beratungsbericht enthielt Zitate, die nicht existierten, was die Verwendung von künstlicher Intelligenz in der von der Provinz in Auftrag gegebenen Forschung in den Fokus rückte.
Die Regierung hat darauf reagiert, indem sie die Beschaffungsregeln verschärft hat. Anbieter müssen offenlegen, ob KI-Werkzeuge bei der Erstellung von Berichten verwendet werden, und die Beamten dürfen diese Nutzung prüfen.
Ein tiefergehendes Problem
Diese Episode weist auf ein tiefergehendes Problem hin. Öffentliche Beschaffungssysteme bewerten Expertise nach Glaubwürdigkeitszeichen, die für eine Welt vor der KI entworfen wurden. Generative KI führt ein neues Modell der Wissensproduktion ein, in dem menschliche Urteile und maschinelle Synthese zunehmend zusammenarbeiten.
Wenn Regierungen große Studien von Beratungsunternehmen in Auftrag geben, erwerben sie sowohl strategischen Rat als auch institutionelle Glaubwürdigkeit. Die Autorität eines Berichts beruht traditionell auf sichtbaren Signalen methodologischer Strenge: Literaturübersichten, umfassenden Referenzlisten, methodologischen Anhängen und detaillierter Dokumentation von Quellen. Diese Signale ermöglichen es öffentlichen Beamten, zu beurteilen, ob die Schlussfolgerungen eines Berichts auf ernsthafter Forschung oder Spekulation beruhen und die Glaubwürdigkeit der dahinterstehenden Expertise zu bewerten.
Sobald KI-unterstützte Synthese in den Forschungsworkflow eintritt, geben diese Signale nur ein unvollständiges Bild davon, wie die zugrunde liegende Analyse produziert wurde.
Der Einfluss von KI
Generative KI-Werkzeuge nehmen zunehmend direkt an der Produktion analytischer Arbeiten teil. Sorgfältig und unter angemessener Aufsicht eingesetzt, können diese Werkzeuge die Geschwindigkeit und den Umfang der Forschung erweitern. Gleichzeitig verändern sie die Sichtbarkeit, wie Analysen durchgeführt werden. Zwei Berichte können auf dem Papier identisch erscheinen. Einer kann eine sorgfältige menschliche Überprüfung von Quellen und Argumenten widerspiegeln, während der andere stark auf automatisierte Synthese mit begrenzter Aufsicht angewiesen sein kann.
Beschaffungssysteme, die für eine Welt rein menschlicher Forschung entwickelt wurden, haben Schwierigkeiten, zwischen diesen Prozessen zu unterscheiden.
Die Reaktion der Regierung
Deshalb ist die Reaktion der Regierung von Neufundland wichtig. Die Provinz verlangt nun von Anbietern, die auf Regierungsaufträge bieten, offenzulegen, ob KI-Werkzeuge verwendet werden, und erlaubt der Regierung, diese Nutzung in Verträgen zu prüfen.
Die Reform führt Transparenz darüber ein, wie Forschung durchgeführt wird, wenn öffentliche Mittel Beratungsarbeiten unterstützen, und macht es möglich, die analytischen Methoden hinter Berichten zu untersuchen, auch wenn maschinenunterstützte Werkzeuge am Prozess beteiligt sind.
Schlussfolgerungen
In diesem Sinne stellen die Beschaffungsreformen der Provinz eine frühe institutionelle Antwort auf einen breiteren Wandel dar, wie Expertise selbst produziert und bewertet wird. Nur wenige Regierungen haben bisher begonnen, Aufsichtsmethoden an die Realität anzupassen, dass KI-Werkzeuge bereits in Forschungs- und Beratungsarbeiten in vielen Sektoren, einschließlich der rechtlichen Analyse, der akademischen Forschung und der Unternehmensstrategie, tätig sind.
Regierungen in ganz Kanada geben jährlich Milliarden von Dollar aus, um Beratungsstudien in Auftrag zu geben, die Entscheidungen über die Personalplanung im Gesundheitswesen, die Infrastrukturplanung, die Regulierungspolitik und die wirtschaftliche Entwicklung beeinflussen. Diese Studien werden oft zur analytischen Grundlage für wichtige politische Entscheidungen innerhalb der Regierung.
Mit zunehmender Verbreitung von KI-Werkzeugen in Forschungs- und Beratungsarbeiten werden Beschaffungssysteme im ganzen Land vor derselben Herausforderung stehen, der Neufundland begegnet ist: nicht nur die Schlussfolgerungen eines Berichts zu bewerten, sondern auch den Prozess, durch den Expertise selbst produziert wird.
Eine effektive Aufsicht erfordert klarere Offenlegungsregeln, stärkere Erwartungen an die menschliche Überprüfung von Quellen und die Fähigkeit, zu prüfen, wie analytische Arbeiten produziert werden. Diese Maßnahmen ermöglichen es neuen Werkzeugen, die Forschungskapazitäten zu erweitern und gleichzeitig das Vertrauen in die Expertenberatung zu bewahren, die öffentliche Politik informiert.
Die jüngste Kontroverse um einen Regierungsbericht in Neufundland und Labrador könnte letztendlich weniger bedeutsam sein für die Fehler, die sie aufdeckte, als für die Governance-Fragen, die sie aufwarf. Künstliche Intelligenz verankert sich weiterhin in Forschungs- und Analysearbeiten sowohl im öffentlichen als auch im privaten Sektor. Öffentliche Institutionen müssen die Mechanismen, die sie zur Bewertung von Expertise verwenden, an diese sich entwickelnde Umgebung anpassen.
Die Beschaffungsänderungen in Neufundland deuten darauf hin, dass diese Anpassung bereits begonnen hat. Beschaffungssysteme, die für das zwanzigste Jahrhundert konzipiert wurden, müssen sich nun anpassen, um ein neues Modell der Expertise zu regieren, in dem menschliches Urteil und maschinelle Synthese zunehmend zusammenarbeiten.
