AI-Zuverlässigkeitsbedenken führen zu Vorschlägen für formelle Aufsicht
Die Abteilung für Informationstechnologie schlägt die Einrichtung eines Centers of Excellence für Künstliche Intelligenz vor, um die sichere Einführung von KI-Technologien in der lokalen Verwaltung zu überwachen. Der Vorschlag erfolgt als Reaktion auf einen Anstieg von Sicherheitsvorfällen im Zusammenhang mit Daten und Bedenken hinsichtlich der Zuverlässigkeit von KI.
Hintergrund und Notwendigkeit
Die Entscheidung basiert auf dem Diebstahl von Milliarden von Datensätzen und Hunderten von Gerichtsverfahren, die sich mit KI-generierten Fehlinformationen befassen. Das vorgeschlagene Budget von 118.000 US-Dollar für das Haushaltsjahr 2027 umfasst Mittel für eine Vollzeitstelle und Technologie-Lizenzen sowie Schulungen und neue Sicherheitswerkzeuge zur Erkennung von KI-Halluzinationen.
Ziele des Vorschlags
Das Center wird Sicherheitsaufsicht und dokumentierte Prozesse für die Mitarbeiter der Verwaltung bereitstellen. Der Vorschlag hebt eine „KI-Zuverlässigkeitskrise“ hervor, die auf 486 Gerichtsverfahren weltweit hinweist, die mit KI-Halluzinationen zu tun haben.
Vorgeschlagene Richtlinien und Verfahren
Eine aktualisierte Acceptable Use Policy wird auch eingeführt, die eine „Mensch-in-der-Schleife“-Validierung für alle KI-generierten Inhalte vorschreibt. Die Richtlinien verbieten es den Mitarbeitern, personenbezogene Daten auf öffentliche KI-Plattformen hochzuladen.
Struktur des Centers
Der Plan basiert auf vier Säulen: Governance, Expertise, Innovation und Sicherheit. Diese Struktur soll sensible Daten schützen, insbesondere aus Bereichen wie Notrufdiensten und Gesundheitsabteilungen.
Schlussfolgerung
Die Genehmigung des Vorschlags könnte innerhalb von 30 Tagen erfolgen, gefolgt von einer ersten Sitzung des Lenkungsausschusses. Die Umsetzung des Plans für 2027 umfasst eine Phase zur Bewertung der aktuellen KI-Nutzung sowie eine Phase zur Kapazitätsentwicklung.
