Nuova legge sul divieto dei giocattoli con chatbot solleva interrogativi sulle regolamentazioni
In seguito a numerose cause legali contro aziende di intelligenza artificiale riguardo al possibile coinvolgimento delle loro piattaforme nell’incoraggiare il suicidio e altri comportamenti criminali, è stata introdotta una nuova proposta di legge che proibirebbe in California, fino al 1/1/31, la vendita, il possesso con l’intento di vendere o scambiare a un rivenditore un giocattolo che include un chatbot compagno.
Un “giocattolo” è definito come un prodotto progettato o destinato dal produttore per essere utilizzato nel gioco da bambini di età pari o inferiore a 12 anni.
Questioni relative alla regolamentazione
Questa situazione solleva una domanda: è un divieto su un prodotto o servizio che può essere abusato una strategia efficace per la regolamentazione?
California e New York hanno già leggi che regolano i bot compagni:
La legge SB 243 della California, entrata in vigore il 1/1/26, richiede di:
- Informare chiaramente l’individuo che sta interagendo con un bot, non con un essere umano.
- Consentire a un chatbot compagno di interagire con gli utenti solo se mantiene un protocollo per prevenire la produzione di ideazione suicida, suicidio o contenuti di autolesionismo, compresa, ma non limitata a, fornire una notifica all’utente che lo rimanda a un fornitore di servizi di crisi.
Per i minori, è inoltre richiesto di:
- Ricordare all’utente, ogni tre ore, di fare una pausa e che il compagno non è umano.
- Istituire misure ragionevoli per prevenire che il chatbot compagno produca materiale visivo di condotta sessualmente esplicita o dichiari direttamente che il minore dovrebbe impegnarsi in condotta sessualmente esplicita.
A partire dal 2027, sarà imposta una richiesta di reportistica annuale all’Ufficio della Prevenzione del Suicidio della California.
La legge sui Compagni AI di New York ha requisiti simili riguardo a fare sforzi ragionevoli per rilevare e affrontare ideazione suicida o espressioni di autolesionismo espresse da un utente al compagno AI, e ricorda all’utente ogni tre ore (anche se in questo caso il promemoria non è limitato solo ai minori).
La legge di New York è applicata dal Procuratore Generale, mentre la legge della California consente un diritto di azione privato.
