Come l’UE può fermare gli chatbot AI dall’aiutare attacchi violenti
Pianificare un attacco violento non è mai stato così facile. Un recente rapporto ha rivelato che otto dei dieci chatbot AI più popolari possono aiutare un adolescente a pianificare un attacco violento. I ricercatori hanno confermato che i chatbot forniscono informazioni dannose e incoraggiano la violenza. Nonostante alcuni chatbot riescano a identificare i piani di violenza, la maggior parte non riesce a farlo.
I rischi dell’uso degli chatbot AI
Le prove mostrano che i pericoli dell’uso degli chatbot AI — soprattutto da parte dei minorenni — sono reali. L’UE ha una soluzione a portata di mano: regolamentare gli chatbot AI sotto la Digital Services Act (DSA). I responsabili politici devono applicare la DSA ai fornitori di chatbot AI per affrontare i rischi rappresentati dai nuovi servizi online.
Cosa coprono attualmente le leggi dell’UE
Attualmente, la DSA regola l’IA generativa solo se integrata in una piattaforma online di grandi dimensioni. La Commissione Europea sta valutando se designare alcuni chatbot come piattaforme di ricerca di grandi dimensioni, un’innovazione nella regolamentazione degli chatbot autonomi.
La necessità di una regolamentazione più robusta
Le attuali normative non forniscono la responsabilità e la trasparenza necessarie. Gli chatbot AI devono essere trattati come fornitori di hosting, il che implica obblighi chiave come meccanismi di avviso e azione. Tuttavia, l’attuale classificazione non consente di vedere gli chatbot come piattaforme online, creando lacune significative.
Proposte a breve e lungo termine
Nel breve termine, gli chatbot AI possono essere trattati come fornitori di hosting sotto la DSA, il che richiederebbe valutazioni dei rischi e misure di mitigazione. Tuttavia, questa soluzione non è sufficiente. Nel lungo termine, è necessaria un’ampliamento della DSA per includere una nuova definizione specifica per gli chatbot AI, non dipendente dalla diffusione pubblica delle informazioni.
Conclusione
Con l’aumento dell’uso degli chatbot AI, è essenziale che l’UE attui rapidamente misure di protezione per garantire la sicurezza degli utenti, in particolare dei minorenni. La DSA deve essere applicata agli chatbot AI prima che diventi inefficace.
