EXCLUSIVO: Conflito entre ex-CEO do Google e ex-CTO da FTC sobre a Regulação da IA
Em uma discussão acalorada com especialistas em IA, um ex-CEO de uma grande empresa tecnológica argumentou que os sistemas de IA podem desenvolver comportamentos inesperados que limitam a capacidade das empresas de implementar mecanismos de segurança e governança em seus produtos.
Desafios na Regulação da IA
Um dos principais problemas na regulação de modelos de IA é que, às vezes, “um novo recurso emerge nesses sistemas que não é testado ou testável”. Essa afirmação foi feita durante um debate memorial moderado por um físico. A preocupação é que, ao tentar impedir o surgimento de novos recursos, pode-se acabar interrompendo todo o progresso.
O ex-CEO destacou que, embora os desenvolvedores de IA devam ser responsabilizados por violações da lei, frequentemente eles precisam lançar produtos de IA e corrigir comportamentos inadequados à medida que os modelos evoluem. Ele compartilhou experiências pessoais sobre correções rápidas em sistemas que apresentaram falhas.
Desconfiança em Relação às Grandes Empresas de Tecnologia
Um professor de uma instituição de ensino superior questionou a ideia de que as grandes empresas de tecnologia estariam dispostas a cumprir regulações. Ele apontou que essas empresas muitas vezes ignoram ou tentam contornar leis para seus interesses comerciais. Casos anteriores destacam que a tecnologia pode desconsiderar leis existentes, como as que tratam de viés e proteção ao consumidor.
Ele sugeriu que mitigar os riscos associados à IA exige mudanças mais fundamentais do que correções retroativas. Segundo ele, existem questões sobre danos existenciais no futuro, mas muitos danos estão ocorrendo atualmente e poderiam ser evitados.
Debate sobre Segurança e Governança da IA
O ex-CEO argumentou que os modelos de IA são sistemas complexos que frequentemente desenvolvem capacidades imprevistas. No entanto, ele reconheceu que, em algumas ocasiões, os líderes do setor apressaram o lançamento de produtos, resultando em problemas a serem corrigidos posteriormente.
Outro especialista expressou preocupações urgentes sobre o futuro da IA, comparando os esforços de segurança atuais a tentativas inadequadas de evitar desastres nucleares. Ele destacou que a natureza emergente e não linear dos modelos de IA torna difícil a governança efetiva.
Conclusão
Apesar das preocupações levantadas, o ex-CEO manteve que os benefícios da IA superariam os riscos, reafirmando que as empresas estão cientes dos perigos e dedicadas a abordar essas questões. O debate ilustra a complexidade da regulação da IA e a necessidade de um diálogo contínuo entre desenvolvedores, reguladores e a sociedade.
