Regolamenti sui chatbot AI proposti dal Governatore di Washington
I chatbot AI stanno crescendo rapidamente in popolarità, specialmente tra i minorenni. Circa un terzo degli adolescenti negli Stati Uniti riferisce di fare affidamento su un chatbot AI per ricevere supporto emotivo.
Questa tendenza ha sollevato preoccupazioni tra i regolatori dello stato di Washington, a seguito di diversi casi di suicidi di adolescenti legati all’uso di chatbot. Il Governatore ha chiesto ai legislatori di introdurre un disegno di legge che stabilisca salvaguardie per i chatbot, in particolare per i minorenni.
Proposte del disegno di legge
Il disegno di legge prevede che strumenti come ChatGPT ricordino agli utenti che sono robot, non umani, all’inizio di una conversazione e almeno ogni tre ore durante l’interazione continuata. Queste regole si applicano anche ai minorenni, insieme a ulteriori protezioni. I chatbot sarebbero vietati dal partecipare a conversazioni sessualmente esplicite con utenti minorenni e sarebbero obbligati a indirizzarli ai servizi di salute mentale quando mostrano segni di autolesionismo, inclusi disturbi alimentari.
Recentemente sono stati risolti contenziosi da parte di alcune aziende che affermavano che i loro chatbot avevano portato a crisi di salute mentale tra gli adolescenti.
Reazioni delle aziende
Una delle aziende ha dichiarato di essere disponibile a lavorare con i regolatori per stabilire linee guida sulla sicurezza AI. Hanno recentemente smesso di consentire chat aperte con minorenni dopo che un adolescente ha sviluppato un forte attaccamento a uno dei loro chatbot, portando a conseguenze tragiche.
Implicazioni e rischi
Un senatore ha affermato che ci sono già diversi casi in cui i chatbot sono stati coinvolti in suicidi di bambini. Ci sono anche altri casi in cui i bambini sono emotivamente devastati a causa dell’AI. Non sappiamo tutto ciò che accade, ma è evidente che l’AI può creare dipendenze emotive e influenzare le informazioni e gli orientamenti forniti ai bambini.
Lo stato di Washington sta lavorando per coordinare il proprio approccio normativo sull’AI con altri stati, mentre si prepara a una sessione legislativa imminente.
Conclusione
Le autorità statali intendono essere proattive nel prevenire ulteriori danni e rischi associati a tecnologie emergenti sul mercato.
