Il Senato della Pennsylvania approva la regolamentazione degli AI chatbot per bambini e adolescenti
Con la crescente popolarità degli AI chatbot non regolamentati e le preoccupazioni riguardo alla sicurezza, il Senato statale ha approvato quasi all’unanimità un disegno di legge volto a regolare i servizi di compagnia AI.
Dettagli della proposta
Il disegno di legge, sponsorizzato da un senatore, delinea una serie di salvaguardie limitate per gli operatori dei servizi di chatbot, definiti come algoritmi AI generativi che simulano relazioni umane con l’utente. Tuttavia, non richiede esplicitamente la verifica dell’età.
Preoccupazioni e obblighi per gli operatori
Il disegno di legge richiede agli operatori di AI companion di garantire che i loro prodotti non promuovano l’autolesionismo, il violenza o il suicidio, e di fornire agli utenti risorse del mondo reale, come il numero di una hotline di crisi, se un utente discute di farsi del male.
Quando c’è motivo di ritenere che un utente sia minorenne, il disegno di legge obbliga gli operatori a notificare agli utenti che non sono umani, a ricordarlo ogni tre ore e a suggerire di fare una pausa. In caso di utilizzo da parte di un minorenne, è vietato generare contenuti visivamente espliciti o incoraggiare azioni sessualmente esplicite.
Applicazione e sanzioni
Il disegno di legge prevede che l’ufficio del Procuratore Generale dello stato faccia rispettare la legge, con sanzioni civili fino a $10.000 per gli operatori di servizi AI che violano le disposizioni.
Conclusioni
Questa proposta deve ancora essere approvata dalla Camera controllata dai Democratici e firmata dal Governatore per diventare legge. Il Governatore ha già espresso interesse per la regolamentazione dei servizi AI chatbot, evidenziando i pericoli legati all’eccessiva dipendenza dall’intelligenza artificiale.
