Croácia em Preparação para a Lei de IA
A recente iniciativa da Croácia para implementar uma legislação nacional sobre Inteligência Artificial (IA) surge em um momento crucial, à medida que o país se adapta ao Ato de IA da UE e enfrenta os desafios associados ao seu impacto nos direitos humanos.
Evento Politiscope: Impacto da IA nas Pessoas e Seus Direitos
O Politiscope organizou um evento no Associação de Jornalistas da Croácia para discutir as implicações da IA nos direitos humanos. Este evento se destaca pela sua relevância, pois ocorre em um momento em que decisões chave, como a designação da autoridade de fiscalização, ainda estão pendentes.
Riscos da IA: Vigilância, Discriminação e Sistemas Injustos
O evento começou com um lembrete poderoso sobre como a tecnologia pode prejudicar a vida cotidiana das pessoas se não for devidamente regulamentada. Vanja Skoric, Diretor de Programas da ECNL, destacou como a IA pode ameaçar a privacidade, a igualdade e outros direitos.
A coalizão Protect Not Surveil e a campanha Reclaim Your Face foram apresentadas como iniciativas que visam garantir salvaguardas para as pessoas contra os danos da tecnologia, como a vigilância biométrica.
Exemplos do mundo real sobre os danos causados por sistemas de IA foram compartilhados. Jelle Klaas descreveu como a litigação estratégica nos Países Baixos levou à remoção de algoritmos discriminatórios usados por bancos. Além disso, Filip Milošević detalhou como a sociedade civil conseguiu impedir a implementação da vigilância biométrica na Sérvia.
Caminhos a Seguir: Incorporando a Perspectiva dos Direitos Humanos na Governança da IA
No evento, Duje Prkut introduziu o Ato de IA da UE e discutiu como a futura legislação nacional da Croácia moldará a governança da IA.
Uma mesa redonda, que incluiu especialistas da Agência de Proteção de Dados da Croácia e da Fundação SHARE, enfatizou a importância de ir além dos requisitos mínimos do Ato de IA da UE.
O registro de uso público de IA, proposto pela DJND, é uma ferramenta que estabelece um padrão mais elevado de transparência, documentando onde e como a IA é utilizada em instituições públicas.
Democratizando a Política de IA: Demandas por Abertura e Participação
As recomendações do Politiscope para a governança da IA na Croácia incluem:
- Registro público de todas as IAs e algoritmos utilizados pela administração pública e estatal.
- Proibição da vigilância biométrica ao vivo em espaços públicos.
- Participação significativa da s sociedade civil no desenvolvimento do quadro legal e político nacional sobre IA.
- Designação da Agência de Proteção de Dados como a única autoridade de fiscalização do mercado para aplicar o Ato de IA na Croácia.
As atividades estão em andamento para promover e garantir a participação da sociedade civil nos processos de tomada de decisão relacionados aos direitos digitais, incluindo o Ato de IA. O Politiscope continuará a pressionar por processos legislativos e políticos mais inclusivos e transparentes.
O evento temático organizado pelo Politiscope foi o primeiro evento ao vivo específico de IA na Croácia organizado por uma ONG ou organização de vigilância, representando um passo inicial modesto na reunião de partes interessadas cívicas e jornalistas interessados no desenvolvimento e uso ético da IA.
