Construindo IA Responsável
Estamos vivendo uma era impulsionada pela IA, que está evoluindo rapidamente e trazendo novos aspectos para nossas vidas diárias. É crucial que essas soluções sejam acessíveis e universais para todos, especialmente para a comunidade com deficiência.
Segundo a Organização Mundial da Saúde (OMS), mais de 380 milhões de adultos em idade ativa vivem com deficiências em todo o mundo, e as taxas de desemprego entre eles chegam a até 80% em algumas regiões. Atualmente, soluções de IA estão sendo usadas para melhorar a vida das pessoas com deficiência; no entanto, questões de equidade para pessoas com classes específicas de deficiência são frequentemente ignoradas nos dados de treinamento e avaliação utilizados para o desenvolvimento da IA.
Essa situação cria uma escassez de dados sobre deficiências, tornando-se uma barreira significativa para a construção de uma IA inclusiva e responsável. Os dados são a espinha dorsal de qualquer solução de IA, mas a maioria dos modelos de IA é treinada com conjuntos de dados existentes que carecem de representação de grupos diversos.
Recentemente, foi destacado que o Centro para a Democracia e Tecnologia alertou em seu último relatório que a falta de dados de alta qualidade sobre deficiência em ferramentas de decisão algorítmica e IA apresenta um risco significativo de perpetuar e exacerbar as barreiras existentes para pessoas com deficiência em vários aspectos da vida. Este problema se complica ainda mais quando pessoas com classes específicas de deficiência são ignoradas na coleta de dados, pois podem representar uma proporção relativamente pequena da comunidade. O estado atual levará a problemas de desempenho dos modelos de IA em reconhecer e responder à comunidade com deficiência.
Navegando pelos Obstáculos
Para superar esses desafios técnicos, há uma necessidade crítica de realizar uma avaliação de riscos das soluções atuais de IA para pessoas com deficiência. Isso ajudará a identificar lacunas e servirá como ponto de partida para futuras pesquisas e desenvolvimento.
Criação de Conjuntos de Dados Inclusivos
Conjuntos de dados mais inclusivos podem ser criados para testar e avaliar modelos de IA, e regulamentações claras devem ser estabelecidas para proteger a privacidade da comunidade com deficiência. Além disso, dados sintéticos podem ser gerados por simulação para criar conjuntos de dados inclusivos. Essa abordagem pode preencher a lacuna gerando dados por meio de usuários que simulam deficiências. Dados simulados podem não ser perfeitos, mas ainda são uma alternativa atraente para soluções de IA inclusivas.
Design Inclusivo de IA
A IA deve ser projetada com a inclusividade como núcleo e uma melhor abordagem de mitigação de preconceitos que assegure a equidade para as comunidades com deficiência. Uma forma de mitigar isso é projetando uma arquitetura multimodal que combina vários modelos de IA para geração de texto, fala e visão, a fim de alcançar soluções de IA mais inclusivas.
Soluções Personalizadas de IA
O design de soluções personalizadas de IA para grupos de usuários específicos, alimentando conjuntos de dados de deficiência altamente focados, pode ajudar a aproveitar a resolução da IA. Por exemplo, uma iniciativa está trabalhando para tornar modelos de IA personalizados mais inclusivos para as mais de 340 milhões de pessoas ao redor do mundo que são cegas ou têm baixa visão.
Conformidade e Políticas
Conformidade e políticas devem ser elaboradas para ter regulamentações em vigor que tornem a tecnologia acessível e responsável. A próxima geração deve ser educada para promover a inclusividade em suas inovações.
As soluções de IA oferecem um futuro promissor. Para torná-las mais acessíveis e responsáveis, devemos praticar a IA inclusiva como uma responsabilidade moral. À medida que avançamos, nossa missão deve ser não apenas construir uma IA inclusiva, mas também aproveitar o poder da IA para construir um mundo que seja inerentemente mais acessível a todos.
