Governança de IA na Assistência a Idosos
A governança de IA na assistência a idosos é um tema emergente que merece atenção especial, dado o aumento significativo da população idosa. A Organização Mundial da Saúde prevê que o número de indivíduos com 60 anos ou mais alcançará 1,4 bilhão até 2030 e 2,1 bilhões até 2050. Este crescimento demográfico traz à tona a necessidade de uma abordagem responsável e eficaz na implementação de sistemas de inteligência artificial para atender a essa população.
A Demanda por Cuidados na Terceira Idade
O avanço médico e as inovações na indústria farmacêutica têm contribuído para que as pessoas vivam mais. Isso resulta em uma demanda crescente por cuidadores, instalações de diagnóstico médico e lares de idosos. A diferença entre a oferta e a demanda em instalações de cuidados para idosos deve ser acentuada nos próximos cinco a dez anos, o que leva as organizações a explorar formas de suprir essa necessidade.
Implementação de Sistemas de IA
Um exemplo prático é o caso de um diretor de informações de uma instalação de assistência a idosos que adquiriu um sistema de gestão de inteligência artificial. Este sistema visa treinar agentes de IA que atuarão como cuidadores inteligentes, orientando os idosos, registrando a medicação sob supervisão e servindo como companheiros sociais. Além disso, os agentes de IA facilitarão a programação automática de funcionários.
No entanto, a implementação da IA deve ser feita de forma segura e responsável. Ao contrário da União Europeia, que possui a Lei de IA para regular o uso de sistemas de gestão de IA, a Austrália ainda não possui uma legislação obrigatória sobre o tema. Portanto, recomenda-se a realização de uma avaliação baseada nos controles da norma ISO/IEC 42001, que é aplicável a sistemas de gestão de IA.
Selecionando um Framework de Governança de IA
A indústria de assistência a idosos na Austrália geralmente se enquadra na categoria de pequenas e médias empresas, atendendo de 1.000 a 2.000 residentes com uma equipe de 200 a 800 funcionários. Os orçamentos costumam ser limitados, tornando crucial a escolha de um framework de governança de IA apropriado que busque melhorar a segurança do sistema de gestão de IA.
Apesar de a legislação australiana ainda não ter estabelecido um framework relacionado à IA, os Princípios Éticos de IA do governo australiano oferecem diretrizes, embora não sejam suficientemente detalhados para uma avaliação abrangente.
O Framework de Gestão de Riscos de IA do Instituto Nacional de Padrões e Tecnologia dos EUA é focado na identificação, avaliação e mitigação de riscos específicos da IA ao longo de seu ciclo de vida, mas a busca é por um framework que vá além da gestão de riscos.
Desafios e Abordagem
A norma ISO 42001 consiste em 10 cláusulas, das quais as cláusulas 4 a 10 e os requisitos associados são relevantes para uma avaliação. A abordagem adotada para a avaliação foi dividida em quatro fases: definir, implementar, manter e melhorar. Durante a avaliação, foram identificados desafios significativos, incluindo a gestão do tempo e a falta de um componente de descoberta devido ao financiamento limitado da instalação.
O compromisso da liderança em integrar o sistema de gestão de IA aos processos de negócios foi um ponto positivo, mas a ausência de uma política clara sobre o uso do sistema e diretrizes para garantir justiça, imparcialidade e supervisão humana foram desafios críticos.
Recomendações
Foi recomendado que uma política de IA apropriada fosse elaborada, abordando os objetivos de controle, desenvolvimento de políticas e responsabilidades organizacionais. A falta dessa política pode impactar negativamente a moral dos funcionários e cuidadores.
Além disso, propôs-se a criação de uma estratégia de IA que identificasse os riscos existentes e como seriam abordados. Esta estratégia deve incluir planos para gerenciar riscos e garantir que os objetivos de IA sejam comunicados de forma clara dentro da organização.
Conclusão
Com a crescente implementação de sistemas de gestão de IA, é essencial que as organizações do setor de assistência a idosos adotem uma abordagem cautelosa e responsável. A ausência de legislação clara sobre o uso seguro e responsável da IA em países como a Austrália destaca a necessidade urgente de salvaguardas adequadas e governança na implementação desses sistemas.
A avaliação de governança de IA deve ser uma prioridade para evitar consequências negativas, especialmente em um setor tão sensível quanto a assistência a idosos. A adoção de novas tecnologias deve ser acompanhada de um otimismo cauteloso e de diligência para garantir que as salvaguardas e a governança apropriadas estejam em vigor.
