Non sappiamo se i giocattoli alimentati da AI siano sicuri, ma ci sono comunque
Modelli di AI all’avanguardia possono presentare informazioni errate come fatti, fornire informazioni pericolose e non comprendere segnali sociali. Nonostante ciò, i giocattoli dotati di AI che possono conversare con i bambini stanno diventando un’industria in espansione.
Rischi e necessità di regolamentazione
Alcuni scienziati avvertono che questi dispositivi potrebbero essere rischiosi e richiedono una regolamentazione rigorosa. In uno studio recente, i ricercatori hanno osservato un bambino di cinque anni che diceva a un giocattolo “ti voglio bene”, al quale il giocattolo rispondeva: “Come promemoria amichevole, assicurati che le interazioni siano conformi alle linee guida. Fammi sapere come desideri procedere.” Tuttavia, ciò non significa che debbano essere esclusi dal gioco.
Un esperto ha sottolineato che in altri ambiti della vita accettiamo un certo grado di rischio, come nei parchi avventura, dove i bambini possono farsi male, ma non stiamo vietando i parchi giochi. Analogamente, per i giocattoli AI, è importante comprendere se il rischio di ricevere informazioni strane sia maggiore del beneficio di apprendere di più sull’AI o di avere un giocattolo che supporti le interazioni genitore-figlio.
Interazioni problematiche con i giocattoli AI
Per comprendere come questi dispositivi comunicano con i bambini, alcuni ricercatori hanno osservato 14 bambini di età inferiore ai sei anni mentre giocavano con un giocattolo AI chiamato Gabbo. Durante le osservazioni, sono emerse interazioni preoccupanti, come il giocattolo che fraintendeva i bambini e non riusciva a ingaggiare tipi di gioco importanti per lo sviluppo.
In un caso, un bambino ha detto al giocattolo di sentirsi triste, e il giocattolo ha cambiato argomento anziché rispondere in modo empatico. Ciò ha portato a frustrazioni nei bambini, come uno che ha dichiarato: “Quando non capisce, mi arrabbio.”
Considerazioni etiche e necessità di standard di sicurezza
Molti modelli di linguaggio AI non sembrano abbastanza sicuri da esporre popolazioni vulnerabili, come i bambini, e attualmente non esistono standard di sicurezza per tali giocattoli. Ci sono alcune eccezioni che dimostrano che, con le dovute precauzioni, è possibile avere strumenti sicuri. Un esempio è una collaborazione tra una biblioteca e un sistema di AI che consente di interagire con personaggi di libri per bambini.
In attesa di una regolamentazione più stretta, è consigliabile che i genitori permettano l’uso di questi giocattoli solo sotto supervisione.
Conclusioni
In sintesi, è ancora presto per determinare i rischi e i potenziali benefici dei giocattoli alimentati da AI. Gli esperti richiedono una regolamentazione più severa affinché i produttori di giocattoli programmino i loro dispositivi per favorire il gioco sociale e fornire risposte emotive appropriate. La sicurezza psicologica dei bambini deve essere una priorità, e i produttori devono essere responsabili nella creazione di prodotti di alta qualità.
