IndiaAI Seleciona Cinco Projetos de IA para Detecção de Deepfake, Mitigação de Viés e Testes de IA Generativa
NOVA DELHI – A iniciativa de inteligência artificial do governo central, IndiaAI, selecionou cinco projetos para fortalecer seu framework de IA Segura e Confiável, com foco na detecção de deepfake, mitigação de viés e segurança da IA generativa.
A seleção segue a segunda rodada de expressões de interesse (EoI) lançada em dezembro de 2024, sob o pilar de IA Segura e Confiável da Missão IndiaAI, que visa garantir a implementação ética e transparente de sistemas de IA na Índia.
De acordo com o Ministério da Eletrônica e da Tecnologia da Informação (MeitY), mais de 400 propostas foram recebidas de instituições acadêmicas, startups, organizações de pesquisa e sociedade civil. Um comitê de múltiplas partes interessadas revisou as submissões e selecionou cinco projetos.
Cinco Projetos Selecionados para Desenvolvimento de IA Segura e Confiável
Os projetos selecionados incluem:
- Saakshya: um framework multi-agente para detecção de deepfake e governança, desenvolvido pelo IIT Jodhpur e IIT Madras.
- AI Vishleshak: uma ferramenta do IIT Mandi e da Diretoria de Serviços Forenses de Himachal Pradesh, que melhora a detecção de deepfake audiovisual e de falsificação de assinatura usando IA explicável.
- Um projeto do IIT Kharagpur que desenvolverá um sistema de detecção de deepfake de voz em tempo real.
- Digital Futures Lab e Karya abordarão o viés de gênero em conjuntos de dados de IA agrícola.
- Uma iniciativa liderada pela Globals ITES Pvt Ltd e IIIT Dharwad, que criará Anvil, uma ferramenta de teste de penetração e avaliação para sistemas de IA generativa.
Ecosistema de Governança de IA
IndiaAI afirmou que os projetos selecionados reforçarão seu compromisso em construir um ecossistema de IA seguro, transparente e inclusivo. As iniciativas combinam forenses em tempo real, testes de resiliência e auditorias de viés para garantir que os modelos de IA utilizados na Índia sejam responsáveis e confiáveis.
“Esses projetos representam o esforço da Índia para não apenas adotar a IA, mas moldá-la de maneira responsável,” disse um funcionário sênior envolvido na Missão IndiaAI. “Ao desenvolver ferramentas indígenas para detecção, testes e avaliação de equidade, a Índia visa liderar globalmente na inovação em IA segura.”
A Missão Mais Ampla da IndiaAI
A IndiaAI, uma divisão de negócios independente sob o MeitY, atua como a agência de implementação da estratégia nacional de IA. Ela trabalha para melhorar o acesso à inteligência artificial, promover práticas éticas de IA e fomentar a autossuficiência tecnológica.
O pilar de IA Segura e Confiável é parte da abordagem multidimensional da IndiaAI, que inclui a construção de modelos fundamentais, o avanço da infraestrutura de computação em IA e a promoção da adoção responsável de IA em setores como agricultura, saúde e segurança pública.
Nos últimos meses, a IndiaAI também firmou parcerias com instituições de pesquisa de destaque e players do setor privado para avançar nas estruturas de governança de IA e ética de dados, sinalizando uma ênfase crescente em equilibrar inovação com responsabilidade no ecossistema digital em rápida expansão do país.
A Missão IndiaAI foi aprovada com um orçamento de ₹10.371,92 crore ao longo de cinco anos.
Lista de Projetos Selecionados para a Missão IndiaAI
| Categorias | Projetos | Organizações |
|---|---|---|
| Ferramenta de Detecção de Deepfake | Saakshya: Framework Multi-Agent, RAG-Enhanced para Detecção e Governança de Deepfake | IIT Jodhpur (CI) & IIT Madras |
| Ferramenta de Detecção de Deepfake | AI Vishleshak: Melhorando a Detecção de Deepfake Audiovisual e Falsificação de Assinatura com Robustez Adversarial, Explicabilidade e Generalização de Domínio | IIT Mandi & Diretoria de Serviços Forenses, Himachal Pradesh |
| Ferramenta de Detecção de Deepfake | Sistema de Detecção de Deepfake de Voz em Tempo Real | IIT Kharagpur |
| Mitigação de Viés | Avaliando o Viés de Gênero em LLMs de Agricultura – Criando Bens Públicos Digitais (DPG) para Benchmarking e Trabalho de Dados Justos | Digital Futures Lab & Karya |
| Teste de Penetração e Avaliação | Anvil: Ferramenta de Teste de Penetração e Avaliação para LLM e IA Generativa | Globals ITES Pvt Ltd & IIIT Dharwad |
