IndiaAI Seleziona Cinque Progetti di AI per la Rilevazione dei Deepfake, Mitigazione dei Bias e Testing di Generative AI
Il governo centrale dell’India, attraverso l’iniziativa di intelligenza artificiale IndiaAI, ha selezionato cinque progetti per rafforzare il suo framework “Safe and Trusted AI”, concentrandosi sulla rilevazione dei deepfake, mitigazione dei bias e sicurezza della generative AI. Questo annuncio è avvenuto dopo il secondo round di espressioni di interesse (EoI) lanciato nel dicembre 2024, nell’ambito del pilastro Safe and Trusted AI della Missione IndiaAI, che mira a garantire un’implementazione etica e trasparente dei sistemi di AI in India.
Secondo il Ministero dell’Elettronica e della Tecnologia dell’Informazione (MeitY), sono state ricevute oltre 400 proposte da istituzioni accademiche, startup, organizzazioni di ricerca e società civile. Un comitato multi-stakeholder ha esaminato le candidature e ha selezionato cinque progetti.
Progetti Selezionati per lo Sviluppo di AI Sicura e Affidabile
I progetti selezionati includono:
- Saakshya: un framework multi-agente per la rilevazione e governance dei deepfake sviluppato da IIT Jodhpur e IIT Madras.
- AI Vishleshak: uno strumento di IIT Mandi e della Direzione dei Servizi Forensi dell’Himachal Pradesh che migliora la rilevazione dei deepfake audio-visivi e delle firme false utilizzando AI spiegabile.
- Un progetto di IIT Kharagpur che svilupperà un sistema di rilevazione in tempo reale dei deepfake vocali.
- Digital Futures Lab e Karya si concentreranno sulla mitigazione del bias di genere nei dataset AI agricoli.
- Un’iniziativa guidata da Globals ITES Pvt Ltd e IIIT Dharwad creerà Anvil, uno strumento di testing e valutazione per i sistemi di generative AI.
Ecosistema di Governance dell’AI
IndiaAI ha affermato che i progetti selezionati rafforzeranno il suo impegno a costruire un ecosistema di AI sicuro, trasparente e inclusivo. Le iniziative combinano forensic in tempo reale, testing di resilienza e audit dei bias per garantire che i modelli di AI utilizzati in India siano responsabili e affidabili.
“Questi progetti rappresentano l’impegno dell’India non solo ad adottare l’AI, ma a plasmarla in modo responsabile,” ha dichiarato un funzionario senior coinvolto nella Missione IndiaAI. “Sviluppando strumenti indigeni per la rilevazione, il testing e la valutazione dell’equità, l’India mira a guidare a livello globale nell’innovazione sicura dell’AI.”
La Missione più Ampia di IndiaAI
IndiaAI, una divisione aziendale indipendente sotto il MeitY, funge da agenzia di implementazione per la strategia nazionale di AI. Lavora per migliorare l’accesso all’intelligenza artificiale, promuovere pratiche etiche nell’AI e favorire l’autosufficienza tecnologica.
Il pilastro Safe and Trusted AI fa parte dell’approccio multidimensionale di IndiaAI, che include la costruzione di modelli fondamentali, l’avanzamento dell’infrastruttura di calcolo per l’AI e la promozione dell’adozione responsabile dell’AI in settori come agricoltura, sanità e sicurezza pubblica.
Nell’ultimo periodo, IndiaAI ha anche collaborato con istituti di ricerca di primo piano e attori del settore privato per avanzare nella governance dell’AI e nei framework etici dei dati, segnalando un crescente impegno per bilanciare innovazione e responsabilità nell’espansione rapida dell’ecosistema digitale del paese.
La Missione IndiaAI è stata approvata con un budget di ₹10,371.92 crore per cinque anni.
Elenco dei Progetti Selezionati per la Missione IndiaAI
| Categorie | Progetti | Organizzazioni |
|---|---|---|
| Strumento di Rilevazione dei Deepfake | Saakshya: Framework Multi-Agent per la Rilevazione e Governance dei Deepfake | IIT Jodhpur (CI) & IIT Madras |
| Strumento di Rilevazione dei Deepfake | AI Vishleshak: Miglioramento della Rilevazione dei Deepfake Audio-Visivi e delle Firme False con Robustezza Avversariale, Spiegabilità e Generalizzazione del Dominio | IIT Mandi & Direzione dei Servizi Forensi, Himachal Pradesh |
| Strumento di Rilevazione dei Deepfake | Sistema di Rilevazione dei Deepfake Vocali in Tempo Reale | IIT Kharagpur |
| Mitigazione del Bias | Valutazione del Bias di Genere negli LLM Agricoli – Creazione di Beni Pubblici Digitali per il Benchmarking e il Lavoro Dati Equo | Digital Futures Lab & Karya |
| Testing e Valutazione | Anvil: Strumento di Testing e Valutazione per LLM e Generative AI | Globals ITES Pvt Ltd & IIIT Dharwad |
