Chamada para uma abordagem focada na regulamentação da IA na Índia
A Índia possui uma economia robusta baseada em serviços, abrangendo setores diversos, incluindo serviços de TI, telecomunicações, comércio eletrônico, saúde e serviços financeiros. Esses fatores posicionam o país como um significativo depósito de dados que pode impulsionar o desenvolvimento da IA, especificamente a IA Generativa (GenAI).
Reconhecendo o potencial transformador e econômico da IA, o governo tem tomado medidas proativas visando monetizar esse crescimento, evidenciado por iniciativas como a Missão IndiaAI, a Plataforma de Dados IndiaAI e o AIKosha, direcionadas à entrega de serviços essenciais ou rotineiros.
Múltiplos relatos de políticas e documentos de consulta setorial destacaram a necessidade de uma supervisão regulatória eficaz sobre a IA, garantindo que seu desenvolvimento e implementação sejam seguros, justos e com responsabilidade.
Abordagem regulatória até agora
A abordagem nacional é principalmente voltada para incentivar a inovação em IA, ao mesmo tempo que exige uma abordagem baseada em princípios para a ética da IA. O governo está priorizando o crescimento econômico impulsionado pela IA, criando estruturas para fomentar a inovação em IA, recomendando padrões éticos e promovendo investimentos em infraestrutura digital e programas de desenvolvimento de habilidades.
Entretanto, a regulamentação da IA permanece um problema em evolução, com o governo lutando para equilibrar o avanço tecnológico com a supervisão regulatória, enquanto busca ser um ator relevante na conversa global sobre a governança da IA.
Em contraste com jurisdições como a UE, que possuem leis específicas e prescritivas sobre IA, essa abordagem regulatória tem sido um tanto reativa e carece de materialidade neste estágio.
Por exemplo, a Índia ainda não formulou um quadro legal abrangente (seja sob uma nova lei ou pela emenda de leis existentes) adaptado à governança da IA. Embora existam requisitos setoriais, tanto vinculativos quanto consultivos, estes são fragmentados entre vários reguladores, como o Banco Reserva (RBI), a Comissão de Valores Mobiliários da Índia (SEBI), a Autoridade Reguladora de Telecomunicações da Índia (TRAI) e a Comissão de Concorrência da Índia (CCI), cada um interpretando a governança da IA através de sua própria lente institucional.
Essa abordagem descentralizada resultou em uma certa incerteza empresarial. Para abordar as questões decorrentes do uso da IA enquanto navega por esse cenário em evolução, a Índia deve avançar para uma abordagem mais unificada e proativa em sua regulamentação e governança.
Principais questões legais
Várias questões legais críticas permanecem sem solução, como:
Viés da IA e responsabilidade algorítmica
Os sistemas de IA têm sido criticados por exibirem viés, especialmente em contratações, concessões de crédito, aplicação da lei e saúde. Esse viés frequentemente surge do uso de dados distorcidos ou incompletos durante a fase de treinamento.
Infelizmente, a atual estrutura legal da Índia carece de disposições que exijam justiça, transparência e responsabilidade nos sistemas de IA e nos dados de treinamento inerentes. O relatório do MeitY reconhece as preocupações relacionadas ao viés da IA, mas não recomenda requisitos regulatórios específicos destinados a mitigar tais riscos.
Privacidade de dados e treinamento de IA
Embora a Lei de Proteção de Dados Pessoais Digitais de 2023 (DPDP) não regule a IA diretamente, terá implicações indiretas sobre a forma como os sistemas de IA são desenvolvidos e implantados, particularmente quando utilizam dados pessoais.
Por exemplo, a DPDP não se aplica a dados públicos; dado que muitas aplicações de IA usarão tais dados, informações sobre isso seriam úteis. Além disso, permite que os detentores de dados busquem alterações em seus dados, o que é uma tarefa difícil se esses dados já foram utilizados no treinamento da IA.
Dilema de direitos autorais
O uso de material protegido por direitos autorais para desenvolver e treinar sistemas de IA pode levar à criação de obras derivadas e, consequentemente, a ações de infração. O relatório do MeitY também classifica esse uso de dados protegidos como infração.
Entretanto, não esclarece qual o grau de semelhança com o material protegido deve estar presente para uma reivindicação de infração bem-sucedida. Indica que, uma vez que a legislação atual oferece meios limitados de execução de reivindicações de infração por parte dos detentores de direitos autorais, a lei precisará ser atualizada para fortalecer sua posição, assim como medidas de diligência devem ser implementadas pelos desenvolvedores de IA antes de acessar conteúdo protegido.
Responsabilidade
Outra questão central na regulamentação da IA é determinar quem deve arcar com a responsabilidade – o desenvolvedor que constrói o modelo de IA, o implementador que o integra em aplicações, ambos em diferentes capacidades, ou mesmo os usuários que aplicam comandos no uso crescente da IA por meio de APIs?
Essas questões não são tratadas sob a legislação atual, e enquanto o MeitY argumenta que as leis existentes continuarão a regular casos de abuso ou violação do uso da IA, práticas interpretativas sobre a alocação de responsabilidade e responsabilidade continuarão a menos que orientações suficientes sejam fornecidas.
Conclusão
A abordagem da Índia à regulamentação da IA fez avanços significativos em termos de políticas, mas continua a enfrentar incertezas quando se trata de legislação definitiva. Embora o relatório do MeitY tenha suscitado discussões sobre os principais desafios regulatórios, medidas concretas podem levar tempo. Embora a DIA fosse esperada para regular algumas questões, as últimas notícias sugerem que o governo está reconsiderando a introdução de uma lei unificada até que as implicações e benefícios da IA sejam totalmente compreendidos no contexto único da Índia.
Avançando, uma abordagem equilibrada e reflexiva para a legislação específica da IA é crucial para fomentar a certeza empresarial, apoiar os direitos dos usuários e possibilitar inovações responsáveis.
