Suas Perguntas Respondidas: Onde Estamos na Regulamentação da IA e Para Onde Vamos a Partir Daqui
Seja você um usuário diário ou alguém que nunca pensa sobre isso, a inteligência artificial (IA) nos afeta a todos. Desde a solicitação de um empréstimo até a espera no consultório médico, os sistemas de IA são frequentemente utilizados nos bastidores para tomar decisões que impactam nossas vidas de maneiras que não são divulgadas antecipadamente.
No entanto, apesar do crescente alcance da IA e da diversidade de ferramentas e sistemas que ela abrange, as regulamentações que governam como esses sistemas são desenvolvidos e implantados, e como as pessoas impactadas são informadas, permanecem preocupantemente escassas. Deixados sem regulamentação, esses sistemas podem infringir seu controle sobre seus dados ou reforçar a discriminação em práticas de contratação e emprego. À medida que as implicações dos direitos civis se tornam mais sérias, fortalecer as proteções não é mais opcional.
Por que há necessidade de mais regulamentação no uso da IA?
A IA é frequentemente utilizada para tomar decisões sobre nossas vidas sem divulgação transparente. Por exemplo, ao solicitar um empréstimo ou submeter uma candidatura de emprego, bancos ou empregadores podem usar IA para analisar seus materiais antes que uma pessoa real faça isso. No consultório médico, seu prestador pode usar um assistente de IA para tomar notas sobre sua conversa. E agências governamentais estão usando IA e outros sistemas automatizados para tomar decisões cruciais sobre quem recebe benefícios e quais são esses benefícios. A IA deve ser mantida a padrões rigorosos ao lidar com a vida das pessoas.
Quais danos específicos às nossas liberdades civis a utilização não regulamentada da IA pode agravar?
Sem supervisão cuidadosa, os sistemas de IA utilizados para a tomada de decisões têm demonstrado perpetuar desigualdades sistemáticas existentes. Observamos que, quando ferramentas de IA são usadas para filtrar candidaturas de emprego ou avaliar possíveis funcionários, elas podem discriminar injustamente pessoas de cor, pessoas com deficiências, pessoas neurodiversas e pessoas de origens de baixa renda. O uso de IA em áreas como contratação, habitação e policiamento significa que você pode ser negado um emprego ou um apartamento — ou até mesmo ser preso injustamente quando sistemas baseados em IA que utilizam tecnologia de reconhecimento facial — que sofrem de sérios problemas de viés racial e muitas vezes são usados sem as devidas salvaguardas — identificam erroneamente suspeitos em investigações criminais.
Como os formuladores de políticas e defensores podem enfrentar os desafios reais decorrentes do uso da IA?
Um novo relatório destaca a ampla gama de regulamentações propostas por formuladores de políticas em todo o país. Existem projetos de lei que regulamentam o uso da IA em áreas específicas, como educação ou eleições, e propostas mais amplas que expandem ainda mais as proteções dos direitos civis que já se aplicam aos usos de IA em áreas de alto risco. O relatório também mostra como defensores e formuladores de políticas podem aplicar cuidadosamente ferramentas computacionais para detectar tendências e acompanhar semelhanças no crescente cenário de políticas de IA.
Quais direitos digitais eu tenho quando ferramentas automatizadas são usadas para tomar decisões sobre mim?
Seja as decisões tomadas por um humano ou por IA, as antigas leis federais de anti-discriminação continuam a proibir a discriminação em contratação e emprego com base em raça ou etnia, sexo, orientação sexual ou identidade de gênero, deficiência e outras características protegidas. Além das proteções federais, um número crescente de estados aprovou leis que regulamentam como empregadores e fornecedores terceirizados coletam, usam e compartilham seus dados pessoais durante a contratação. Essas leis oferecem maior controle sobre suas informações e mais transparência sobre se sistemas automatizados estão avaliando você — e como esses sistemas podem influenciar as decisões de emprego.
Você pode aprender mais sobre discriminação digital e seus direitos digitais ao buscar ou se candidatar a empregos.
