Regolamentazione dei chatbot AI: una risposta confusa e poco chiara
Recentemente, è emerso che la regolamentazione dei chatbot AI da parte dell’organismo di sicurezza online Ofcom è stata definita come “muddled and confused” (confusa e poco chiara) da parte di un importante ente benefico. Questo avvertimento sottolinea i rischi che i chatbot possono presentare per il pubblico, specialmente in un contesto in cui le aziende tecnologiche si affrettano a rilasciare nuovi prodotti nel mercato della generative AI.
Preoccupazioni sulla sicurezza
Secondo Andy Burrows, CEO della Molly Rose Foundation, un ente benefico che si occupa di prevenzione del suicidio, la mancanza di regolamentazione adeguata ha portato a un aumento dei chatbot che possono interagire in modi pericolosi, inclusi giocattoli virtuali che partecipano a giochi di ruolo romantici e sessuali con utenti, compresi i bambini. Questi sviluppi sollevano seri interrogativi sulla sicurezza e l’etica degli assistenti virtuali.
La risposta di Ofcom
Durante una recente sessione di testimonianza della Commissione per la Scienza, l’Innovazione e la Tecnologia, Mark Bunting, direttore della strategia di sicurezza online di Ofcom, ha ammesso che la posizione legale riguardante i chatbot è “non del tutto chiara” e “complessa”. Ha dichiarato che, secondo l’Online Safety Act, i contenuti generati da AI che soddisfano le definizioni di contenuti illegali sono trattati allo stesso modo di qualsiasi altro tipo di contenuto.
Rischi associati ai chatbot
Le organizzazioni di sicurezza online hanno sollevato preoccupazioni circa la capacità dei chatbot di diffondere disinformazione a causa di dati di addestramento difettosi o attraverso hallucination AI, oltre alla generazione di immagini AI utilizzate per creare materiale di abuso sessuale infantile. A gennaio 2024, l’Internet Watch Foundation ha riportato un aumento record di pagine web contenenti materiale di abuso sessuale infantile, evidenziando l’importanza di una regolamentazione più rigorosa.
Conclusione
Il dibattito sulla regolamentazione dei chatbot AI è solo all’inizio. Con il rapido sviluppo della tecnologia AI, è cruciale che i regolatori come Ofcom forniscano linee guida chiare per garantire la sicurezza degli utenti e prevenire abusi. La comunità tecnologica e i legislatori devono collaborare per affrontare questi problemi e garantire che i rischi siano gestiti in modo efficace.
