Como o novo framework de IA da Índia visa riscos, viés e uso indevido
Antes da Cúpula de Impacto da IA de cinco dias em 2026, o governo indiano divulgou seu primeiro conjunto abrangente de diretrizes para a governança da inteligência artificial (IA).
O framework é baseado em princípios e leis existentes, com novos órgãos de supervisão para equilibrar inovação e salvaguardas.
A medida demonstra o compromisso da Índia com a governança responsável da IA mesmo sem uma lei específica, abordando questões como viés, uso indevido e falta de transparência em sistemas de IA, enquanto assegura que a adoção tecnológica não seja prejudicada.
Diretrizes e Princípios
As novas diretrizes detalham como a IA deve ser desenvolvida e implantada em setores como saúde, educação, agricultura, finanças e governança.
O framework é baseado em sete princípios amplos ou sutras, que incluem: confiança como base; pessoas em primeiro lugar; inovação em vez de restrição; equidade e justiça; responsabilidade; compreensibilidade por design; segurança, resiliência e sustentabilidade.
Juntos, esses princípios enfatizam que os sistemas de IA devem apoiar os processos de tomada de decisão humana, sendo transparentes para evitar discriminação, com salvaguardas claras implementadas.
Abordagem Legal
Um aspecto central das diretrizes é sua dependência de leis existentes.
Funcionários afirmaram que muitos riscos relacionados à IA já estão cobertos por disposições legais atuais, como regras de TI, leis de proteção de dados e estatutos criminais.
Em vez de promulgar uma lei separada de IA neste momento, o governo optou por revisões periódicas e emendas direcionadas à medida que a tecnologia evolui.
Órgãos de Supervisão
O framework propõe a criação de órgãos nacionais para supervisionar a governança da IA.
Esses incluem um grupo de governança de IA para coordenação de políticas entre ministérios, um comitê de especialistas em tecnologia e política para aconselhamento especializado, e um instituto de segurança de IA focado em padrões de teste, pesquisa de segurança e avaliação de riscos.
Responsabilidades e Aplicações de Alto Risco
As diretrizes também definem responsabilidades para desenvolvedores e implantadores de IA, como relatórios de transparência, divulgações claras ao usar conteúdo gerado por IA e mecanismos de resolução de reclamações para aqueles afetados por esses sistemas.
Aplicações de alto risco, especialmente aquelas que impactam segurança, direitos ou meios de subsistência, deverão seguir salvaguardas mais rigorosas com supervisão humana.
Conclusão
As diretrizes refletem a crença da Índia de que a IA não deve ser limitada a algumas empresas ou países, mas deve ser amplamente implantada para resolver problemas do mundo real, enquanto permanece confiável.
Ao equilibrar inovação com salvaguardas, o governo espera posicionar a Índia não apenas como um grande usuário de IA, mas também como um líder global na governança responsável e inclusiva, alinhada à visão de “Viksit Bharat 2047”.
