OpenAI supporta la misura sulla sicurezza dell’IA per i giovani in California
OpenAI ha confermato il proprio supporto a una proposta di misura elettorale in California riguardante la sicurezza dei giovani nell’uso dell’intelligenza artificiale. Dirigenti senior hanno delineato nuovi requisiti per i controlli parentali, l’assicurazione dell’età e le salvaguardie per i bambini che utilizzano strumenti di intelligenza artificiale.
Contesto della proposta
La società afferma che la legislazione proposta riflette un cambiamento più ampio verso standard di sicurezza per i bambini più rigorosi, poiché l’IA viene utilizzata sempre più da un pubblico giovane. La proposta è stata dettagliata in un post su un social network professionale, dove un dirigente ha spiegato la partnership con un’organizzazione dedicata ai media e il sostegno congiunto per la misura.
Requisiti della misura proposta
La nuova misura richiede che gli strumenti di intelligenza artificiale utilizzino sistemi di stima dell’età che rispettano la privacy, per distinguere tra bambini e adulti. Devono inoltre offrire controlli parentali facili da usare, compresi limiti di tempo e protezioni più forti per i minori di 13 anni. È necessario sviluppare salvaguardie per prevenire output che incoraggiano comportamenti come la dipendenza emotiva e le interazioni sessualizzate. Ulteriori requisiti includono l’implementazione di protocolli di risposta alle crisi per rischi di autolesionismo e suicidio, oltre a audit indipendenti sulla sicurezza infantile, con report pubblici.
Applicazione della misura
La misura si applica a chatbot e sistemi di intelligenza artificiale che simulano conversazioni, inclusi strumenti già utilizzati da bambini e adolescenti. Le aziende sarebbero tenute a distinguere tra utenti adulti e minori, proibendo la pubblicità mirata ai minori e limitando la raccolta, la vendita o la condivisione dei dati dei bambini senza il consenso dei genitori. Sono previste salvaguardie per prevenire la promozione di autolesionismo, disturbi alimentari, violenza o comportamenti sessualmente espliciti, nonché restrizioni sugli accompagnatori IA per utenti sotto i 18 anni.
Implicazioni più ampie
La proposta di legge è collegata a conversazioni più ampie sulla alfabetizzazione nell’IA e sull’adozione a lungo termine. È fondamentale che i genitori e gli educatori possano sentirsi sicuri nell’utilizzare questi strumenti. La proposta enfatizza che, pur riconoscendo il diritto alla privacy per gli adulti, la sicurezza deve avere la priorità quando si tratta di adolescenti.
Conclusione
La misura sulla sicurezza dell’IA per i giovani rappresenta un importante passo avanti verso la creazione di un ambiente più sicuro per i minori nell’era digitale. Con l’aumento dell’uso dell’IA tra i giovani, è essenziale stabilire norme che proteggano i bambini mentre si sviluppano competenze per il futuro.
