Preoccupazioni sulla affidabilità dell’IA portano a proporre un controllo formale
Il Dipartimento di Tecnologia dell’Informazione di una contea sta proponendo l’istituzione di un Centro di Eccellenza per l’Intelligenza Artificiale per supervisionare l’adozione sicura delle tecnologie IA all’interno del governo locale. Questa proposta viene presentata in risposta a un recente aumento delle violazioni della sicurezza dei dati e alle preoccupazioni riguardanti l’affidabilità dell’IA.
Motivazioni della proposta
Funzionari della contea hanno citato il furto di miliardi di registrazioni da fonti pubbliche e centinaia di casi legali riguardanti la disinformazione generata dall’IA come motivazioni principali per la creazione di un framework di governance formale. Il centro fornirà supervisione della sicurezza e processi documentati per i dipendenti e i residenti della contea.
Budget e implementazione
Il budget proposto per l’anno fiscale 2027 include fondi per una posizione a tempo pieno, licenze tecnologiche e formazione. Gli ufficiali si aspettano un ritorno positivo sull’investimento entro 18-24 mesi attraverso guadagni in efficienza e risparmi sui costi.
Crisi di affidabilità dell’IA
La proposta mette in evidenza una “Crisi di Affidabilità dell’IA”, notando che 486 casi legali a livello mondiale hanno coinvolto allucinazioni dell’IA, con 324 di questi verificatisi nei tribunali degli Stati Uniti. Studi suggeriscono che le organizzazioni con governance documentata dell’IA ottengono una riduzione del 96% degli errori.
Piani di governance e uso accettabile
Il piano include una Politica di Uso Accettabile aggiornata che richiede la validazione umana per tutti i contenuti generati dall’IA. Sotto queste regole, i dipendenti sono vietati dall’upload di informazioni identificabili personalmente su piattaforme pubbliche di IA.
Conclusioni
Se la proposta verrà approvata, il primo incontro del comitato direttivo si terrà entro 30 giorni. La roadmap di implementazione per il 2027 prevede una fase di valutazione dell’uso attuale dell’IA e una fase di costruzione delle capacità per avviare progetti pilota.
