DeepSeek affina la sua IA per l’Italia dopo l’indagine sulle allucinazioni
Un’azienda cinese di intelligenza artificiale ha annunciato il lancio della sua prima versione nazionale esclusiva del chatbot, specificamente adattata alle esigenze italiane, a condizione che possa soddisfare le normative vigenti. Questa notizia giunge mentre l’autorità italiana di vigilanza sta diventando più rigorosa nella regolamentazione dell’IA, cercando di eliminare le allucinazioni.
Regolamentazione e sfide
L’Italia è uno dei paesi più severi dell’UE per quanto riguarda la regolamentazione dell’IA, come dimostrano le indagini regolari su aziende come Meta, che spesso portano a multe, e l’azione contro Google per pirateria nello streaming sportivo. Tuttavia, sorgono problemi più sottili, come l’interpretazione del termine “motore di ricerca”. In passato, questo termine si riferiva a piattaforme singole come Google o Yahoo, ma ora i chatbot IA possono raccogliere informazioni da molteplici fonti, spesso creando narrazioni fabricate.
L’autorità ha riconosciuto che il fenomeno delle allucinazioni nei modelli IA è una sfida globale che non può essere completamente eliminata. In risposta, l’azienda ha promesso di ridurre le allucinazioni, un impegno che è stato considerato “lodevole” dai regolatori. Tuttavia, rimane poco chiaro come verrà misurato questo progresso; l’azienda ha organizzato dei workshop per formare il personale sulle leggi italiane.
Implicazioni e rischi
Per formalizzare i propri impegni, l’azienda presenterà un rapporto all’autorità di vigilanza. La non conformità potrebbe comportare una multa di 10 milioni di euro. Un portavoce ha osservato che le modifiche all’interfaccia utente e ai termini e condizioni sono relativamente semplici da implementare, mentre i miglioramenti tecnici sono più difficili da garantire.
Le allucinazioni colpiscono tutte le IA generative, non solo quella in questione, e i ricercatori di aziende leader nel settore lamentano le pratiche attuali di formazione che incoraggiano le congetture invece di concedere incertezze. L’autorità ha affermato che l’azienda deve rendere le informazioni sui rischi di allucinazioni più trasparenti, intelligibili e immediate.
Conclusione
Questi impegni segnano anche un potenziale ritorno nel mercato italiano, dopo che il chatbot era stato rimosso dai negozi di app a causa di preoccupazioni relative alla gestione dei dati. Un ritorno dipenderà dalla soddisfazione dei regolatori riguardo alle misure di trasparenza adottate e dalla classificazione del servizio come motore di ricerca secondo la legge sui servizi digitali dell’UE.
