Google Lança o SynthID Detector – Uma Ferramenta Revolucionária de Detecção de IA
O SynthID Detector é uma ferramenta poderosa que pode detectar conteúdo gerado por inteligência artificial (IA). Desenvolvido pelo Google, este detector funciona identificando marcas d’água geradas pelo SynthID em conteúdos criados por ferramentas de IA da empresa, como Imagen, Gemini e Lyria.
Atualmente, o detector está em fase de testes e disponível apenas para aqueles que se inscrevem em uma lista de espera. Além disso, o SynthID Detector é open-source, permitindo que qualquer pessoa construa sobre a arquitetura tecnológica existente.
O que é o SynthID?
O SynthID é uma ferramenta de marca d’água de última geração lançada pelo Google em agosto de 2023. Esta tecnologia adiciona uma marca d’água em conteúdos gerados por IA, que não é visível a olho nu. Inicialmente, o SynthID foi lançado apenas para imagens geradas por IA, mas agora foi estendido para texto, vídeo e áudio criados utilizando ferramentas como Imagen, Gemini, Lyria e Veo.
O detector utiliza essa marca d’água do SynthID para identificar o conteúdo de IA. Quando um usuário faz o upload de uma imagem, áudio ou vídeo para a ferramenta de detecção, ela procura por esta marca d’água. Se a encontrar, destacará a parte do conteúdo que é mais provável de estar marcada.
A Necessidade do SynthID Detector
Apesar de todos os benefícios que a inteligência artificial trouxe, ela também se tornou uma ferramenta poderosa nas mãos de criminosos. Temos visto centenas de incidentes onde pessoas inocentes foram enganadas ou ameaçadas utilizando conteúdo gerado por IA.
Por exemplo, em 13 de maio, Sandra Rogers, uma mulher do Condado de Lackawanna, foi considerada culpada por possuir imagens de abuso sexual infantil geradas por IA. Em outro incidente, um garoto de 17 anos extorquiu informações pessoais de 19 vítimas criando deepfakes sexualmente explícitos e ameaçando divulgá-los.
Além de crimes contra civis, a IA também está sendo usada para causar muito descontentamento político. Um consultor foi multado em $6M por usar chamadas robóticas falsas durante as eleições presidenciais dos EUA, imitando a voz de Joe Biden e incentivando eleitores em New Hampshire a não votar nas primárias democráticas do estado.
As Implicações Legais do Uso de IA
Além do uso ilegal da IA, existe um dilema moral associado ao seu uso crescente. Educadores estão preocupados com o uso de modelos de linguagem e IA geradora de texto em escolas, faculdades e universidades. Em vez de se esforçarem, os alunos agora apenas inserem alguns comandos para gerar artigos e tarefas humanas detalhadas.
Um estudo da Universidade da Pensilvânia formou dois grupos de alunos: um com acesso ao ChatGPT e outro sem tais ferramentas. Os alunos que usaram o ChatGPT conseguiram resolver 48% mais problemas matemáticos corretamente. No entanto, em um teste realizado, os alunos que utilizaram o ChatGPT resolveram 17% menos problemas do que aqueles que não utilizaram.
Detetores de IA Contemporâneos
Os detetores de IA existentes têm se mostrado ineficazes. Especialistas em IA, como Christopher Penn, demonstraram que os resultados desses detetores são imprecisos. Por exemplo, ao alimentar um detector de IA ‘líder de mercado’ com a Declaração de Independência dos EUA, o sistema indicou que 97% do texto era gerado por IA.
Isso ocorre porque esses detetores utilizam parâmetros como perplexidade e burstiness para analisar textos. Como resultado, se você escrever um artigo que soe um pouco robótico, com pouca variedade de vocabulário e linhas de comprimento similar, esses ‘detetores de IA’ podem classificar seu trabalho como sendo de um modelo de linguagem de IA.
O Futuro com o SynthID Detector
O SynthID Detector representa uma esperança para combater o uso indevido da IA. Organizações de notícias, publicações e reguladores podem rodar uma imagem ou conteúdo suspeito através do detector para verificar uma história antes de publicá-la para milhões de leitores.
Ferramentas como o SynthID também ajudarão a criar um ambiente de medo entre os criminosos, que saberão que podem ser descobertos a qualquer momento.
Em resumo, a introdução do SynthID Detector pelo Google é um passo significativo na luta contra o uso indevido da IA e na proteção da integridade do conteúdo digital.
