Comissão pede por IA ética
A Comissão de Direitos Humanos da Austrália apresentou um modelo para a mudança de como a inteligência artificial (IA) e as tecnologias emergentes são desenvolvidas e utilizadas no país.
Propostas para proteção dos direitos humanos
No seu Documento de Discussão, a Comissão faz propostas abrangentes para salvaguardar os direitos humanos e promover o uso acessível, igualitário e responsável da nova tecnologia. As propostas incluem um moratório sobre o uso potencialmente prejudicial da tecnologia de reconhecimento facial e a promoção de tecnologia mais acessível para pessoas com deficiência.
Quando a IA é utilizada para tomar uma decisão significativa, qualquer indivíduo afetado deve ser capaz de compreender a base da decisão e, se necessário, desafiá-la.
Consultas comunitárias e propostas práticas
O Documento de Discussão baseia-se em extensas consultas com a comunidade e especialistas. Ele propõe melhorias práticas na aplicação dos direitos humanos existentes e nas proteções ao consumidor no desenvolvimento e uso de novas tecnologias.
O Comissário de Direitos Humanos enfatizou que a responsabilidade e o estado de direito são fundamentais para a democracia, destacando a necessidade de defender esses princípios de maneira mais eficaz no desenvolvimento e uso da IA.
Implicações e riscos
As tecnologias emergentes podem trazer grandes benefícios sociais, mas as pessoas estão cada vez mais conscientes de que suas informações pessoais podem ser usadas contra elas. Exemplos preocupantes de tecnologia emergente sendo testada em membros vulneráveis da comunidade têm sido observados, assim como o uso da IA para tomar decisões de alto impacto que afetaram seriamente os direitos humanos de indivíduos.
Conclusão
Com a publicação deste Documento de Discussão, a Comissão está estabelecendo um modelo para a mudança na forma como desenvolvemos e utilizamos a IA e as tecnologias emergentes. À medida que a IA se torna central em tudo, desde a prestação de serviços até a saúde, é fundamental que todos participem das propostas apresentadas. As decisões tomadas agora serão críticas para definir como viveremos no futuro próximo.
