La regolamentazione dell’IA di OpenAI sotto accusa per preoccupazioni sulla sicurezza dei bambini
Il progetto di OpenAI sull’IA ha suscitato proteste e sollevato preoccupazioni riguardo alla sicurezza dei bambini.
Più di 20 organizzazioni hanno redatto una lettera congiunta e l’hanno inviata all’azienda. Uno dei motivi citati è la potenziale mancanza di protezioni legali per le famiglie nel caso in cui i bambini vengano danneggiati.
Una coalizione di organizzazioni per i diritti civili ha esortato OpenAI a fermare la sua iniziativa di regolamentazione dell’intelligenza artificiale in California, affermando che potrebbe indebolire le protezioni per i bambini e limitare la responsabilità delle aziende tecnologiche.
Conflitti sulla regolamentazione dell’IA e rischi per gli utenti
La questione ruota attorno al disegno di legge “Parents & Kids Safe AI”, sostenuto da OpenAI, che intende stabilire regole su come i chatbot interagiscono con i minori, comprese le norme di sicurezza e conformità.
Tuttavia, più di due dozzine di organizzazioni, tra cui Encode AI e il Center for Humane Technology, hanno dichiarato in una lettera congiunta che il documento presenta gravi difetti. Chiedono all’azienda di ritirare completamente l’iniziativa e lasciare la regolamentazione ai legislatori.
Un co-direttore di Encode AI ha sottolineato: “La principale richiesta qui è che OpenAI si ritiri dalla scheda elettorale.”
Critiche e preoccupazioni
Le critiche si concentrano su diversi punti chiave:
- Una definizione eccessivamente ristretta di danno che copre effettivamente solo le conseguenze fisiche.
- Limitazioni sulla capacità delle famiglie di intentare cause legali se i bambini vengono danneggiati.
- Indebolimento degli strumenti di supervisione per le agenzie governative.
- Difficoltà nel modificare le norme in futuro (richiederebbe un voto di due terzi dei legislatori).
Un’altra preoccupazione riguarda l’approccio ai dati degli utenti. Si legge che ciò potrebbe ostacolare le famiglie dalla possibilità di divulgare i registri delle chat dei propri bambini deceduti in tribunale.
Nonostante la pausa annunciata nella campagna, OpenAI mantiene il controllo sull’iniziativa. Secondo quanto affermato, l’azienda ha già accumulato 10 milioni di dollari, che potrebbero essere utilizzati come strumento per influenzare i legislatori.
Pressione crescente su OpenAI amid safety risks
La situazione si svolge in un contesto di critiche alle aziende tecnologiche. In particolare, la famiglia di un utente ha recentemente intentato causa contro un’azienda per un chatbot, sostenendo che questo abbia contribuito a comportamenti pericolosi.
Il co-direttore ha sottolineato che ciò fa parte di una tendenza più ampia: “Il piano di lobbying utilizzato per l’IA da parte di queste grandi aziende è lo stesso strategia utilizzata in precedenza su altre questioni tecnologiche.”
In parallelo, OpenAI ha rinviato il lancio della funzione “modalità adulta” in ChatGPT di almeno un mese. Secondo i rapporti dei media, la decisione è collegata a difficoltà tecniche e rischi per i minori. Anche se l’azienda non sta abbandonando il lancio della funzione, riconosce la necessità di ulteriori test e perfezionamenti.
