California Measure Would Protect Children Who Use AI Chatbots
Un’importante organizzazione per la sicurezza dei bambini ha collaborato con un’azienda tecnologica per promuovere un’iniziativa a livello statale, che promette di essere la misura di sicurezza più completa in materia di intelligenza artificiale per i minori nel paese.
Dettagli dell’iniziativa
Se l’iniziativa verrà inserita nel ballottaggio di novembre e approvata dagli elettori della California, il “Parents & Kids Safe AI Act” richiederà alle aziende di adottare un insieme di requisiti per proteggere i minori dagli effetti dannosi associati all’uso dell’IA. Inoltre, conferirà al procuratore generale dello stato il potere di far rispettare tali regole.
La crescente preoccupazione pubblica per la sicurezza online dei bambini, in particolare in relazione all’IA, è stata alimentata da eventi tragici, come il suicidio di un sedicenne, i cui genitori hanno citato in giudizio l’azienda produttrice di un famoso chatbot, sostenendo che il loro figlio fosse stato influenzato dall’IA prima della sua morte.
Obiettivi e requisiti della legge
Il “Parents & Kids Safe AI Act” richiederà alle aziende di IA di utilizzare tecnologie di verifica dell’età per determinare se un utente è un minorenne e di prevenire che i bambini sviluppino dipendenze emotive o relazioni simulate con i sistemi di IA. Inoltre, dovranno essere stabiliti meccanismi di protezione per evitare che i minori accedano a contenuti generati dall’IA che promuovono l’autolesionismo, i disturbi alimentari, la violenza e atti sessualmente espliciti.
La legge vieterebbe anche la pubblicità mirata ai minori e proibirebbe la vendita dei dati di un minorenne senza il consenso dei genitori, consentendo ai genitori di monitorare o limitare l’uso dell’IA da parte dei propri figli e di ricevere avvisi in caso di segnali di autolesionismo.
Audit e responsabilità delle aziende
Inoltre, l’iniziativa richiederà alle aziende di IA di sottoporsi a audit di sicurezza indipendenti e di condurre valutazioni annuali del rischio per la sicurezza dei minori. Il procuratore generale avrà il potere di indagare e imporre sanzioni finanziarie alle aziende che non rispettano le norme.
Conclusione
Questa iniziativa rappresenta una fusione di due precedenti misure proposte, mirate a garantire la sicurezza dei bambini nell’era dell’IA. I sostenitori hanno tempo fino al 24 giugno per raccogliere le firme necessarie per inserire la proposta nel ballottaggio di novembre.
