Google lancia SynthID Detector – Uno strumento rivoluzionario per la rilevazione dell’IA
Google ha introdotto SynthID Detector, un potente strumento in grado di rilevare contenuti generati dall’IA. Questo strumento funziona identificando i watermark generati da SynthID nei contenuti forniti dagli strumenti di intelligenza artificiale di Google, come Imagen, Gemini e Lyria.
Attualmente, il detector è in fase di test e disponibile solo per gli utenti che si registrano in una lista d’attesa. SynthID Detector è anche open-source, consentendo a chiunque di sviluppare ulteriormente l’architettura tecnologica.
La necessità di SynthID Detector
Nonostante i numerosi vantaggi offerti dall’intelligenza artificiale, essa è diventata anche uno strumento potente nelle mani dei criminali. Sono stati riportati centinaia di incidenti in cui persone innocenti sono state truffate o minacciate utilizzando contenuti generati dall’IA.
Ad esempio, il 13 maggio, Sandra Rogers, una donna della contea di Lackawanna, è stata dichiarata colpevole di possesso di immagini di abuso sessuale su minori generate dall’IA. In un altro caso, un ragazzo di 17 anni ha estorto informazioni personali a 19 vittime creando deepfake sessualmente espliciti e minacciando di divulgarli.
In Cina, un uomo è stato truffato per 622.000 dollari da un truffatore che utilizzava una voce generata dall’IA per impersonare un amico al telefono. Truffe simili sono diventate popolari anche negli Stati Uniti e in altri paesi.
Il dilemma legale dell’uso dell’IA
Oltre all’uso illegale dell’IA, esiste anche un dilemma morale legato al suo utilizzo crescente. Gli educatori sono particolarmente preoccupati per l’uso di modelli di generazione di testi nelle scuole e università.
Invece di impegnarsi nello studio, gli studenti ora possono semplicemente inserire alcuni comandi per generare articoli e compiti dettagliati e simili a quelli umani. Uno studio condotto presso l’Università della Pennsylvania ha mostrato che gli studenti che avevano utilizzato ChatGPT potevano risolvere il 48% di problemi matematici in più rispetto a quelli che non lo avevano fatto.
Tuttavia, quando è stato condotto un test, gli studenti che avevano utilizzato ChatGPT hanno risolto il 17% di problemi in meno rispetto a quelli che non lo avevano fatto. Questo dimostra che l’uso di questi modelli non contribuisce realmente all’apprendimento e allo sviluppo accademico.
SynthID Detector è open-source
Un aspetto positivo dell’annuncio di Google riguardo a SynthID Detector è che lo strumento è stato mantenuto open-source. Ciò consentirà ad altre aziende e creatori di costruire sull’architettura esistente e incorporare la rilevazione del watermark nei propri modelli di intelligenza artificiale.
Attualmente, SynthID Detector funziona solo per gli strumenti di intelligenza artificiale di Google, che rappresentano solo una piccola parte del mercato dell’IA. Pertanto, se qualcuno genera un testo utilizzando ChatGPT, non esiste ancora un modo affidabile per determinare se è stato generato dall’IA.
In conclusione, è lodevole che Google non ha mantenuto segreta questa importante innovazione. Altre aziende preoccupate per l’abuso crescente dei loro modelli di IA dovrebbero contribuire al bene comune di rendere l’IA sicura per la società.
