Il Dipartimento dei Trasporti Utilizzerà l’Intelligenza Artificiale per Redigere Regolamenti sulla Sicurezza, e Questo Preoccupa le Persone
Presto, i regolamenti sulla sicurezza che mantengono gli aerei in volo, garantiscono la sicurezza dei passeggeri delle automobili e prevengono le esplosioni delle tubature del gas potrebbero essere redatti da un’intelligenza artificiale. Questo preoccupa alcuni membri del Dipartimento dei Trasporti, specialmente considerando il focus sulla quantità piuttosto che sulla qualità, con il Dipartimento che mira a un risultato “sufficiente”.
L’Impatto dell’Intelligenza Artificiale
Il cosiddetto intelligenza artificiale ha toccato ogni aspetto delle nostre vite. Oggi, tutto è “qualcosa di AI”, anche se in realtà non c’è nulla di intelligente in esso. Il termine “intelligenza artificiale” si riferisce quasi sempre a modelli di linguaggio di grandi dimensioni, che non sono affatto intelligenti. Invece, sono bravi a prevedere quale parola (o pixel) può essere utilizzata meglio accanto a un’altra, analizzando innumerevoli contesti simili e ciò che gli esseri umani avrebbero scelto.
Le “allucinazioni” dell’IA sono comuni, anche se le frasi generate da un chatbot sembrano avere senso a prima vista. Tuttavia, quel modello di linguaggio non ha idea del significato delle parole che sta producendo. Nonostante ciò, i modelli di linguaggio di grandi dimensioni vengono sempre più utilizzati da persone che sono troppo pigre per fare le proprie ricerche, il che può portare a errori significativi.
Preoccupazioni dei Funzionari del Dipartimento dei Trasporti
Queste preoccupazioni spiegano perché alcuni membri del Dipartimento dei Trasporti sono inquieti riguardo all’uso di chatbot per redigere regolamenti sulla sicurezza. Gli impiegati temono che eventuali errori dell’IA possano portare a regolamenti difettosi, che potrebbero causare cause legali o, nel peggiore dei casi, incidenti e decessi nel sistema dei trasporti.
Durante una dimostrazione delle capacità di redazione delle regole di un modello di linguaggio, il documento prodotto mancava di testo chiave, che un impiegato ha dovuto inserire. Tuttavia, il legale principale del Dipartimento non sembra affatto preoccupato. In una riunione, ha spiegato che desidera utilizzare l’IA perché può redigere regole in meno di 30 minuti, rispetto a settimane o mesi per gli advisor umani.
Implicazioni e Rischi
Queste regole influenzano ogni aspetto della sicurezza dei trasporti, e un risultato “sufficiente” potrebbe non essere accettabile. Qualsiasi errore potrebbe avere conseguenze gravi. È considerato “incredibilmente irresponsabile” da alcuni membri del personale. Tra le regole redatte con l’aiuto dell’IA, c’è una proposta di regolamento della Federal Aviation Administration, secondo un membro del Dipartimento.
Si sostiene che ci sia stata una richiesta per accelerare l’adozione dell’IA da parte delle agenzie federali, sebbene la redazione di leggi e regolamenti non sia stata menzionata specificamente. Tuttavia, l’obiettivo del Dipartimento è di essere “in prima linea” in questo sforzo.
Conclusione
La decisione di utilizzare l’IA per redigere regolamenti sulla sicurezza solleva molte preoccupazioni. Mentre l’adozione della tecnologia avanza, è cruciale garantire che la qualità e la sicurezza non vengano compromesse in nome della velocità.
