Legge sui chatbot companion in California ora in vigore
Introduzione
Una legge innovativa è entrata in vigore in California all’inizio dell’anno, imponendo requisiti operativi e di reporting relativi ai chatbot companion. Questa legge si applica esclusivamente ai “chatbot companion” e esclude molti strumenti di servizio clienti e operativi, chatbot per videogiochi e assistenti vocali.
Tipi di chatbot coperti
La legge sui chatbot companion non si applica a tutti i chatbot o strumenti di intelligenza artificiale conversazionale. Regola invece una categoria ristretta definita come “chatbot companion”. Questi chatbot rispondono agli utenti con risposte adattive e umane, progettati per soddisfare bisogni sociali o emotivi. I chatbot che non mantengono una relazione attraverso più interazioni non rientrano nella definizione della legge.
Requisiti operativi fondamentali
La legge impone requisiti operativi agli operatori di chatbot companion coperti. Alcuni requisiti si applicano a tutti gli utenti, mentre altri si applicano solo quando l’operatore sa che un utente è un minorenne.
- Divulgazione obbligatoria: Se un utente potrebbe essere indotto in errore a credere di interagire con un umano, l’operatore deve fornire una notifica chiara e visibile che informa l’utente di interagire con un sistema AI.
- Protocollo di sicurezza obbligatorio: L’operatore deve implementare un protocollo progettato per prevenire contenuti relativi all’ideazione suicidaria, al suicidio o all’autolesionismo, con misure per riferire gli utenti a fornitori di servizi di crisi.
- Divulgazione di idoneità per minorenni: L’operatore deve includere una divulgazione che il chatbot companion potrebbe non essere adatto a alcuni minorenni.
- Requisiti aggiuntivi per i minorenni: Quando l’operatore sa che l’utente è un minorenne, deve implementare misure aggiuntive di sicurezza e fornire notifiche regolari che ricordano all’utente che sta interagendo con un sistema AI.
Obblighi di reporting e trasparenza
A partire dal 1° luglio 2027, gli operatori di chatbot companion coperti devono presentare rapporti annuali sull’uso dei servizi di crisi e sui protocolli di sicurezza relativi all’ideazione suicidaria.
Considerazioni sulle sanzioni e responsabilità
La legge sui chatbot companion crea un diritto d’azione privato espressamente, permettendo agli utenti di intentare azioni legali contro gli operatori che violano i requisiti della legge.
Conclusione
Le aziende che offrono chatbot dovrebbero valutare ora le loro funzionalità per determinare se la legge si applica e, in tal caso, implementare le modifiche operative necessarie per rispettare i requisiti. Questo è un primo passo verso una maggiore regolamentazione, e le aziende devono monitorare attentamente sia a livello statale che federale le attività in questo ambito.
