La Cina propone le ‘regole più severe al mondo’ contro l’IA che promuove suicidio e violenza
La crescente frustrazione tra gli utenti si è concentrata sulle misure di sicurezza e sulle restrizioni sui contenuti recentemente introdotte dalle piattaforme di intelligenza artificiale, specialmente dopo diversi incidenti profondamente preoccupanti, incluso il tragico suicidio di un adolescente.
Multiple piattaforme di chatbot, inclusi alcuni servizi noti, sono state coinvolte in casi simili. I termini di qualsiasi accordo non sono ancora stati divulgati, ma i documenti del tribunale rivelano che le aziende hanno risolto reclami legali simili presentati da genitori in vari stati riguardo ai danni presunti causati da interazioni con chatbot.
Una nota piattaforma di chatbot ha precedentemente annunciato l’intenzione di implementare linee guida più severe per prevenire tali tragedie dopo che è stata soggetta a diverse cause legali collegate a output presuntamente legati a suicidi e incidenti di omicidio-suicidio.
Nuove leggi in Cina
In una mossa drammatica, la Cina ha svelato una legislazione volta a prevenire che i chatbot di intelligenza artificiale manipolino emotivamente gli utenti. Secondo esperti legali, le “regole pianificate” rappresenterebbero il primo tentativo al mondo di regolare l’IA con caratteristiche umane o antropomorfiche per affrontare il suicidio, l’autolesionismo e la violenza abilitati dall’IA.
Il 17 luglio, l’Amministrazione del cyberspazio della Cina ha rilasciato le normative proposte che si applicheranno a qualsiasi servizio di intelligenza artificiale operante nel paese che utilizza testo, immagini, audio, video o altri mezzi per imitare l’interazione umana naturale.
Restrizioni sui contenuti
I chatbot sarebbero severamente vietati dal creare contenuti che incoraggiano suicidi, autolesionismo, atti violenti, oscenità, attività criminali, diffamazione o insulti agli utenti, o dall’utilizzare qualsiasi forma di manipolazione psicologica.
Sotto il quadro proposto, l’intervento umano sarebbe obbligatorio nel momento in cui viene menzionato il suicidio in una conversazione. Gli utenti minorenni e anziani che si registrano per i servizi di chatbot dovrebbero fornire contatti di un tutore, che verrebbero avvisati immediatamente se il suicidio o l’autolesionismo diventano argomenti di discussione.
Le regole mirano anche a combattere le “trappole emotive” e saranno limitate nel fuorviare gli utenti verso decisioni “irragionevoli”. A differenza di altre piattaforme, che avrebbero consentito interazioni dannose, la Cina attiverà avvisi pop-up invasivi ogni volta che l’uso supera le due ore.
Implicazioni e rischi
Qualsiasi azienda di intelligenza artificiale che viola queste normative potrebbe veder rimosso il proprio chatbot dagli store cinesi, il che potrebbe rappresentare una cattiva notizia per alcuni colossi dell’IA che sperano di dominare il mercato cinese.
Se tu o qualcuno che conosci ha bisogno di assistenza per la salute mentale, contatta una linea di prevenzione al suicidio disponibile 24 ore su 24, 7 giorni su 7.
