Quem é Responsável pela IA Responsável?
O papel dos líderes em governança de IA é crucial na inclusão de práticas de IA responsável nas organizações. Um recente relatório da Gartner alerta que líderes de Sourcing, Procurement e Vendor Management (SVPM) que negligenciam a necessidade de incorporar a governança de IA estão expondo suas organizações a riscos significativos.
Contratos de software e nuvem frequentemente carecem de compromissos explícitos que tornem os fornecedores responsáveis por fornecer IA responsável, enquanto outros contratos incluem isenções que removem a responsabilidade por sistemas e resultados de IA irresponsáveis.
Quem deve ser responsável pelos resultados da IA?
Quando questionado sobre quem deve ser responsável pelos resultados da IA em uma organização, as respostas mais comuns incluem “ninguém”, “não usamos IA” e “todos”. Nenhuma dessas respostas é aceitável.
A ideia de que ninguém é responsável pelos resultados dos modelos de IA é preocupante. Não pode haver aceitação de zero responsabilidade em torno da IA. Por outro lado, afirmar que “não usamos IA” é irônico, pois a IA já está embutida em muitos aplicativos de software que as organizações utilizam.
Finalmente, a resposta de que “é responsabilidade de todos” é nobre, mas levanta a questão: se todos são responsáveis, quem realmente é responsável? Deve haver mais do que a noção de que se todos cuidarem da governança, tudo ficará bem.
O que é necessário para ser responsável ou responsabilizar fornecedores?
Claramente, há uma desconexão entre como uma organização pensa que está lidando com sua responsabilidade em relação à IA e a realidade. Para que uma organização seja verdadeiramente responsável, é necessário:
Alinhamento de Valores
Aqueles que são responsáveis pela governança e ética da IA precisam gerenciar muitos fatores, sendo o mais crítico o alinhamento de valores dentro de suas organizações. É fundamental fazer com que todos reconheçam a importância desse trabalho.
Inventário de Modelos de IA
Além do alinhamento de valores, a equipe responsável pela IA deve acompanhar o inventário de modelos de IA da organização. Não se pode governar o que não se vê. Todos os modelos de IA ou aprendizado de máquina devem ser rastreados, junto com os metadados associados.
Auditoria
É necessário entender como auditar esses modelos para garantir que a tecnologia se comporte conforme o esperado. Isso é crucial para responsabilizar os fornecedores contratualmente.
Regulamentações
A paisagem regulatória está em constante mudança, especialmente em relação à IA. Diversos países já implementaram leis específicas sobre o uso de IA e riscos associados, como o EU AI Act.
Literacia em IA
É reconhecido que é possível ter modelos que sejam “legais, mas terríveis”. Portanto, é essencial abordar a ética na IA. A responsabilidade pela governança e ética da IA também implica em promover programas de literacia em IA dentro das organizações.
Esses programas não se limitam apenas a ensinar como usar a IA para aumentar a produtividade, mas também a definir a relação que a organização deseja ter com a IA e os princípios éticos que devem ser seguidos.
Estabelecer Estruturas de Incentivo e Design
Simplesmente, você obtém mais dos comportamentos humanos que mede. É importante considerar quais comportamentos estão sendo incentivados e medidos em relação à curadoria responsável de modelos de IA.
Conclusão
Em resumo, é vital lembrar de quatro pontos principais:
- Pronto ou não, a IA está sendo usada em sua organização agora. Estabeleça uma estratégia rigorosa de IA que permita governar e operar a IA de forma eficiente.
- Líderes de governança de IA precisam de um mandato financiado. A governança de IA exige muito trabalho e o escopo desse trabalho está crescendo.
- Implemente sua IA eticamente e seja intencional sobre os resultados humanos. Assegure que os modelos de IA reflitam os valores humanos da organização.
- É necessário muito para desriscar a IA. A IA em escala requer a estratégia, dados, arquitetura, segurança e governança adequados.
