Nova ferramenta SAGA detecta qual IA criou um vídeo falso na internet

A disseminação de conteúdos falsos gerados por inteligência artificial ganhou um novo adversário de peso. Pesquisadores da Universidade da Califórnia em Riverside (UCR), em conjunto com especialistas do YouTube e da Google DeepMind, anunciaram o desenvolvimento de uma tecnologia inovadora capaz de detectar vídeos fraudulentos e apontar exatamente qual modelo de IA foi utilizado em sua criação.

Batizado de SAGA (sigla em inglês para Atribuição de Origem de Vídeos de IA Generativa), o sistema vai muito além de uma simples checagem de autenticidade. Ao analisar assinaturas digitais e padrões sutis deixados pelos algoritmos de renderização, a tecnologia consegue rastrear a "impressão digital" do gerador, permitindo identificar se o material falso veio de plataformas comerciais conhecidas ou de modelos de código aberto.

Atualmente em estágio de pesquisa acadêmica, a solução desponta como uma das armas mais promissoras no combate à desinformação estruturada e fraudes virtuais. No futuro, a ferramenta poderá ser integrada diretamente a redes sociais e utilizada por investigadores digitais para conter a propagação de conteúdos manipulados antes que causem danos de grande escala.

Acompanhe a Recifes.net

Entre no Canal do WhatsApp da Recifes.net para receber noticias, bastidores e atualizacoes editoriais diretamente no WhatsApp.