“Wildly irresponsible”: l’uso dell’IA da parte del DOT per redigere regole di sicurezza suscita preoccupazioni
Il Dipartimento dei Trasporti degli Stati Uniti sembra ritenere una buona idea utilizzare l’intelligenza artificiale per redigere norme che influenzano la sicurezza di aerei, automobili e oleodotti, come rivelato da un’indagine.
Preoccupazioni riguardo all’uso dell’IA
Se il DOT diventasse la prima agenzia a utilizzare l’IA per redigere regole, potrebbe rappresentare un problema. L’IA è nota per commettere errori e generare informazioni inventate, e il personale teme che eventuali errori dell’IA possano portare a leggi difettose, con conseguenze legali, infortuni o addirittura morti nel sistema dei trasporti.
Tuttavia, il principale legale del DOT non è preoccupato, affermando che l’obiettivo non è che l’IA sia perfetta, ma che aiuti ad accelerare il processo di redazione delle norme, permettendo di scrivere regole che normalmente richiederebbero settimane o mesi in soli 30 giorni.
Scetticismo del personale del DOT
Esperti e membri del personale del DOT hanno espresso scetticismo riguardo all’utilizzo di uno strumento di IA per redigere norme. Alcuni esperti hanno suggerito che l’IA potrebbe fungere da assistente alla ricerca con adeguata supervisione. Tuttavia, i membri del personale hanno sottolineato che la redazione delle norme è un lavoro complesso che richiede decenni di esperienza.
Durante una dimostrazione, un documento redatto da questo strumento mancava di testi chiave, il che avrebbe richiesto l’intervento di un membro del personale per completarlo. Anche l’uso dell’IA ha portato a situazioni problematiche nei tribunali, con avvocati e giudici che sono stati ingannati da informazioni fabricate.
Conseguenze delle norme errate
Le norme redatte dal DOT influenzano praticamente ogni aspetto della sicurezza dei trasporti, contribuendo a mantenere gli aerei in volo e prevenendo esplosioni di oleodotti. Errori nelle regole potrebbero avere conseguenze gravi.
Prospettive future
Nonostante le preoccupazioni del personale, il DOT sembra intenzionato a proseguire con l’uso dell’IA. Si prevede che l’IA possa gestire l’80-90% del lavoro di scrittura delle normative. In futuro, i lavoratori federali potrebbero ridursi a un ruolo di supervisione, monitorando le interazioni tra intelligenza artificiale.
Il settore tecnologico ha mostrato interesse per l’adozione dell’IA nelle agenzie governative, con un’attenzione particolare all’uso dell’IA per affrontare problemi critici.
