Indagini di Ofcom sulle Piattaforme AI: Il Quadro della Legge sulla Sicurezza Online
Da quando la Legge sulla Sicurezza Online (OSA) è entrata in vigore meno di un anno fa, Ofcom ha avviato indagini su oltre 90 piattaforme e ha emesso sei multe per non conformità, inclusi provvedimenti contro un sito di nudificazione AI per la mancanza di controlli sull’età robusti. Questo mese, Ofcom ha aperto due nuove indagini su due servizi di AI generativa.
Come i Chatbot AI rientrano nella Legge sulla Sicurezza Online
Con l’aumento dell’uso della tecnologia dei chatbot, cresce anche il potenziale di danno. Sotto l’OSA, un chatbot che soddisfa la definizione della legge come servizio regolato è coperto dalle sue regole. Qualsiasi contenuto generato dall’AI condiviso dagli utenti su un servizio di interazione tra utenti è classificato come contenuto generato dagli utenti e viene regolato allo stesso modo del contenuto creato da esseri umani.
Tuttavia, alcuni chatbot non rientrano nella legge. I chatbot sono esclusi dalla regolamentazione se consentono solo l’interazione con il chatbot stesso, non consultano altri siti web o database quando rispondono agli utenti e non possono generare contenuti pornografici.
L’Investigazione su X e Grok
Ofcom ha avviato un’investigazione formale su una piattaforma a seguito di segnalazioni che il chatbot Grok veniva utilizzato per generare e condividere contenuti preoccupanti, inclusi presunti contenuti di immagini intime non consensuali e materiali di abuso sessuale infantile. L’indagine si concentra su diversi aspetti chiave della legge.
L’Investigazione su Novi Ltd
Ofcom ha annunciato un’indagine separata su un altro servizio di AI generativa. Questa indagine fa parte del programma di enforcement più ampio di Ofcom riguardante le misure di verifica dell’età nel settore dei contenuti per adulti.
Un Punto di Svolta?
Il caso Grok ha sollevato richieste diffuse per protezioni legali più forti, con membri del governo che esprimono preoccupazione. Tuttavia, molti sostengono che sia necessaria una modifica fondamentale dell’approccio per prevenire gli abusi abilitati dall’AI, suggerendo che la legge attuale potrebbe non essere adeguata a fronteggiare le sfide uniche degli abusi generati dall’AI.
Prospettive Future
Queste indagini dimostrano che Ofcom sta applicando l’OSA con decisione anche ai servizi alimentati da AI. I fornitori di servizi di AI generativa operanti nel paese devono garantire che le loro misure di valutazione del rischio e moderazione dei contenuti soddisfino gli standard richiesti dalla legge. Tuttavia, con l’aumento delle richieste di cambiamento sistemico, potrebbe essere necessario un intervento legislativo mirato per affrontare le specifiche problematiche legate all’AI.
