Pior que Deep Fakes – os novos e mais poderosos aplicativos da Desinfo

Ela ficou desconfiada quando o suposto prefeito pediu que ela apoiasse uma marcha do orgulho gay no meio de uma Kyiv devastada pela guerra.

Não era Klitschko, uma vez que se viu, mas um impostor. O escritório de Giffey disse mais tarde que a pessoa provavelmente usou a tecnologia deepfake para enganar o prefeito de Berlim (embora a técnica por trás disso permaneça incerta).

Um ou dois anos detrás, poucos estavam familiarizados com deepfakes; hoje a maioria das pessoas é. Sua popularidade se deve em grande segmento ao seu destaque em aplicativos populares, uma vez que troca de rosto ou tecnologia de sincronização labial com IA no TikTok.

Antes unicamente uma instrumento de entretenimento, os atores da desinformação começaram a usá-la. Somente nascente ano, 2022, viu várias acrobacias de cima perfil semelhantes, desde aquelas que foram relativamente menos prejudiciais – uma vez que a traição de JK Rowling – até as potencialmente perigosas, uma vez que o deepfake se passando pelo presidente ucraniano Vladimir Zelensky, que instruiu seus cidadãos a deitar os braços.

Ainda mais tremendo, no entanto, é que os próprios deepfakes estão rapidamente se tornando uma maneira “antiquada” de fabricar teor de vídeo falso.

O novo garoto do quarteirão nascente ano é uma mídia totalmente sintética. Ao contrário dos deepfakes, que são parcialmente sintéticos e sobrepõem a imagem do rosto de uma pessoa no corpo de outra pessoa em um vídeo existente, a mídia totalmente sintética pode ser criada aparentemente do zero.

O software de conversão de texto em imagem chegou nascente ano e faz exatamente isso.

Não é realmente mágico, mas a tecnologia por trás dos geradores não é menos misteriosa. Os modelos que alimentam o software de conversão de texto em imagem dependem do aprendizagem de máquina e de redes neurais artificiais gigantes que imitam as redes neurais naturais do seu cérebro e sua capacidade de aprender e reconhecer padrões. Os modelos são treinados para reconhecer milhões de imagens emparelhadas e suas descrições textuais.

O usuário só precisa digitar um prompt de texto simples e – uau! – A imagem sai. Os programas mais populares são Stable Diffusion e DALL-E – e ambos agora são gratuitos e de entrada livre.

Isso aponta para um potencial perturbador: essas ferramentas são um sonho tornado verdade para um ator de desinformação que precisa unicamente imaginar a “evidência” de que precisa para estribar sua narrativa e, em seguida, criá-la.

Essas tecnologias já estão começando a permear as mídias sociais, e as imagens são unicamente o primícias.

Lançado recentemente em setembro, o meta “Make-A-Video” que permite aos usuários fabricar “clipes de vídeo curtos e de subida qualidade” a partir de ingressão de texto. Especialistas alertam que o vídeo sintético é ainda mais problemático do que as imagens sintéticas, uma vez que o cenário atual da mídia social já favorece vídeos truncados e de ritmo apressurado em vez de texto ou imagens.

Entretenimento à segmento, a invasão de mídia sintética em um aplicativo uma vez que o TikTok é particularmente perturbadora. O TikTok se concentra no teor gerado pelo usuário e incentiva as pessoas a usar a mídia existente, aditar suas próprias edições e reenviar – um padrão operacional não muito dissemelhante da geração de deepfakes.

Uma pesquisa recente da Associated Press mostrou que um em cada cinco vídeos no TikTok é desinformação e que os jovens estão cada vez mais usando o aplicativo uma vez que um mecanismo de procura para tópicos importantes uma vez que Covid-19, mudança climática ou invasão da Ucrânia pela Rússia.

Também é significativamente mais difícil de auditar do que outros aplicativos uma vez que o Twitter.

Resumindo, o aplicativo TikTok é uma incubadora perfeita para essas novas táticas, que se espalham pela web por meio do compartilhamento entre plataformas.

A maior segmento da desinformação ainda é criada usando táticas cotidianas, uma vez que software de edição de vídeo e som. Ao modificar vídeos por splicing, mudar a velocidade, substituir o áudio ou simplesmente tirar o vídeo do contexto, os atores da desinformação já podem facilmente semear um exposição.

Ver ainda é crer

No entanto, o transe do texto para imagem já é real e presente. Não é preciso muita força criativa para imaginar o porvir não muito distante, quando a mídia sintética não rastreável aparecerá em volume em nossos telefones e laptops. Com a crédito nas instituições e na mídia confiável já enfraquecida, é tremendo imaginar o impacto potencial em nossas democracias.

O grande volume de notícias hoje é uma segmento agravante do problema. Cada um de nós tem uma capacidade limitada de consumir notícias – muito menos de checá-las. Sabemos que desmascarar é uma solução lenta e ineficaz. Para muitos de nós, ver ainda é crer.

Precisamos fornecer uma solução simples e amplamente utilizada que permita aos usuários localizar e entender instantaneamente imagens ou vídeos errados. Soluções que não permitem que usuários – e jornalistas – identifiquem notícias falsas com mais rapidez, facilidade e independência sempre ficarão um passo detrás.

Atualmente, as soluções mais promissoras se concentram na proveniência: uma tecnologia que incorpora a mídia com uma assinatura ou marca d’chuva invisível no momento da geração, conforme proposto pela Adobe’s Content Authenticity Initiative. É uma solução promissora, mas complexa, que requer colaboração entre setores. Os políticos, mormente na Europa, deveriam prestar mais atenção a isso.

Vivemos em um mundo apressurado e a desinformação se move mais rápido do que nossas soluções atuais. É hora de conversarmos.