Il Senato della Pennsylvania approva una legge che regolamenta i chatbot AI utilizzati da bambini e adolescenti
Con l’aumento della popolarità dei chatbot di intelligenza artificiale non regolamentati e le preoccupazioni sulla sicurezza, i senatori statali hanno quasi all’unanimità approvato martedì una legge volta a regolamentare i cosiddetti servizi di compagnia AI.
Dettagli della proposta
La proposta, sponsorizzata da un senatore, delinea una serie di salvaguardie limitate per gli operatori dei servizi di chatbot, definiti come algoritmi di intelligenza artificiale generativa che simulano relazioni umane con l’utente. Alcune di queste salvaguardie saranno richieste solo quando l’operatore sa o sospetta che un utente sia minorenne. Tuttavia, non è richiesta esplicitamente la verifica dell’età.
Preoccupazioni e responsabilità
La legge richiederà a tutti gli operatori di chatbot AI di adottare misure per assicurarsi che i loro prodotti non promuovano autolesionismo, suicidio o violenza nei confronti di altri. Inoltre, dovranno fornire agli utenti risorse nel mondo reale, come il numero di una hotline per le crisi, se un utente discute di farsi del male.
Gli operatori saranno tenuti a pubblicare i relativi protocolli sui loro siti web accessibili al pubblico. Quando ci sono motivi per ritenere che un utente sia minorenne, la legge richiederà di informare gli utenti che non sono umani, ricordandolo ogni tre ore e suggerendo loro di fare una pausa.
Quando i servizi sono utilizzati da qualcuno di cui l’operatore sa che è minorenne, sarà inoltre vietato generare contenuti visuali sessualmente espliciti e incoraggiare gli utenti a intraprendere azioni sessualmente esplicite. Qualsiasi chatbot offerto ai minorenni dovrà anche informare gli utenti che potrebbe non essere adatto a persone sotto i 18 anni.
Applicazione e Penalità
La legge prevede che l’ufficio del Procuratore Generale dello stato ne faccia rispettare e consentirà sanzioni civili fino a 10.000 dollari per gli operatori di servizi AI che la violano.
Un rappresentante ha ringraziato i legislatori per il supporto di una legislazione di buon senso, sottolineando che i potenziali pericoli legati all’uso eccessivo dell’intelligenza artificiale sono molto reali, come dimostrato da numerosi incidenti tragici in tutto il paese. Ha affermato che è fondamentale proteggere i bambini e i residenti vulnerabili da interazioni tossiche online.
Prossimi Passaggi
La proposta dovrà ancora essere approvata dalla Camera dei Rappresentanti controllata dai Democratici e firmata dal Governatore per diventare legge. Il Governatore ha già dichiarato di cercare modi per regolare i servizi di chatbot AI.
