„Wildly irresponsible“: Bedenken zur Nutzung von KI durch das Verkehrsministerium zur Erstellung von Sicherheitsvorschriften
Das US-Verkehrsministerium (DOT) plant anscheinend, künstliche Intelligenz (KI) zur Erstellung von Vorschriften zu verwenden, die die Sicherheit von Flugzeugen, Autos und Pipelines betreffen. Eine Untersuchung hat ergeben, dass dies problematisch sein könnte, da KI dafür bekannt ist, fehlerhaft zu sein und falsche Informationen zu generieren. Mitarbeiter befürchten, dass Fehler der KI zu fehlerhaften Gesetzen führen könnten, was zu Klagen, Verletzungen oder sogar Todesfällen im Verkehrssystem führen könnte.
Die Sicht des Verkehrsministeriums
Der leitende Jurist des DOT sieht das Problem nicht als besorgniserregend an. Laut interner Notizen geht es nicht darum, dass die KI perfekt ist, sondern darum, den Prozess der Regelsetzung zu beschleunigen, sodass Vorschriften, die normalerweise Wochen oder Monate in Anspruch nehmen, innerhalb von 30 Tagen erstellt werden können. Das bevorzugte Tool des DOT, Google Gemini, kann Vorschriften in weniger als 30 Minuten entwerfen.
Besorgnis der Mitarbeiter
Experten und anonym befragte Mitarbeiter äußerten Skepsis gegenüber der Fähigkeit von Gemini, effektive Vorschriften zu erstellen. Die Mitarbeiter betonten, dass die Erstellung von Vorschriften eine komplexe Arbeit sei, die oft jahrzehntelange Fachkenntnisse erfordere. In einer Demonstration von Gemini wurde ein Dokument präsentiert, das wichtige Textstellen vermisste, die von einem Mitarbeiter ergänzt werden mussten.
Risiken und Auswirkungen
Fehler in den Vorschriften könnten ernsthafte Folgen haben, da diese nahezu jeden Aspekt der Verkehrssicherheit betreffen. Sie sind entscheidend für die Sicherheit von Flugzeugen, die Verhinderung von Gasleitungsexplosionen und die Sicherheit von Güterzügen, die gefährliche Chemikalien transportieren.
Politische Unterstützung und Zukunftsausblick
Der frühere Präsident war begeistert von der Initiative des DOT, drängte jedoch nicht explizit auf den Einsatz von KI zur Gesetzgebung. Dennoch sieht das DOT seine Rolle als Vorreiter und erwartet, dass andere Behörden folgen werden. Derzeit plant das DOT, dass Gemini 80 bis 90 Prozent der Arbeit beim Verfassen von Vorschriften übernehmen kann, was zu einer Reduzierung der Rolle menschlicher Mitarbeiter auf eine Überwachungsposition führen könnte.
Google hat sich nicht zu dieser Nutzung von Gemini geäußert, hat jedoch in einem Blogbeitrag für die Verwendung von KI in der Regierung geworben und darauf hingewiesen, dass das DOT die erste Ministeriumsbehörde ist, die vollständig auf Google Workspace umsteigt.
Die Kontroversen und Bedenken hinsichtlich des Einsatzes von KI im Regelsetzungsprozess bleiben jedoch bestehen, während das DOT entschlossen scheint, mit seinem Plan voranzuschreiten.
