Um vídeo viral mostra o que parecem ser quatro tubarões nadando na piscina de um hotel jamaicano enquanto as enchentes supostamente provocadas pelo furacão Melissa inundam a área. Outro supostamente retrata o aeroporto de Kingston, na Jamaica, completamente devastado pela tempestade. Mas nenhum destes eventos aconteceu, é apenas desinformação gerada pela IA a circular nas redes sociais enquanto a tempestade se agitava nas Caraíbas esta semana.
Esses vídeos e outros acumularam milhões de visualizações em plataformas de mídia social, incluindo X, TikTok e Instagram.
Alguns dos clipes parecem ser unidos ou baseados em imagens de desastres antigos. Outros parecem ter sido criados inteiramente por geradores de vídeo de IA.
“Estou em muitos grupos de WhatsApp e vejo todos esses vídeos chegando. Muitos deles são falsos”, disse a ministra da Educação da Jamaica, Dana Morris Dixon, na segunda-feira. “E por isso pedimos que você ouça os canais oficiais.”
Embora seja comum que fotos, vídeos e desinformação fraudulentos apareçam durante desastres naturais, eles geralmente são desmascarados rapidamente. Mas os vídeos gerados por novas ferramentas de inteligência artificial levaram o problema a um novo nível, facilitando a criação e divulgação de clipes realistas.
Neste caso, o conteúdo tem aparecido nos feeds das redes sociais juntamente com imagens genuínas filmadas por residentes locais e organizações de notícias, semeando confusão entre os utilizadores das redes sociais.
Aqui estão algumas etapas que você pode seguir para reduzir suas chances de ser enganado.
Verifique se há marcas d’água
Procure um logotipo de marca d’água indicando que o vídeo foi gerado pelo Sora, uma ferramenta de conversão de texto em vídeo lançada pelo OpenAI, criador do ChatGPT, ou outros geradores de vídeo de IA. Geralmente, eles aparecerão em um dos cantos de um vídeo ou foto.
É muito fácil remover esses logotipos usando ferramentas de terceiros, então você também pode verificar se há desfoques, pixelização ou descoloração onde deveria estar uma marca d’água.
Dê uma olhada mais de perto
Observe mais de perto os vídeos para obter detalhes pouco claros. Embora o vídeo dos tubarões na piscina pareça realista à primeira vista, parece menos crível quando examinado mais de perto porque um dos tubarões tem uma forma estranha.
Você pode ver objetos que se misturam ou detalhes como letras distorcidas em uma placa, que são sinais reveladores de imagens geradas por IA. A marca também é algo a ser observado, já que muitas plataformas são cautelosas ao reproduzir logotipos de empresas específicas.
Especialistas dizem que ficará cada vez mais difícil diferenciar entre realidade e deepfakes à medida que a tecnologia melhorar.
Especialistas observaram que Melissa é o primeiro grande desastre natural desde que a OpenAI lançou a versão mais recente de sua ferramenta de geração de vídeo Sora, no mês passado.
“Agora, com o surgimento de ferramentas poderosas e facilmente acessíveis como o Sora, tornou-se ainda mais fácil para os malfeitores criar e distribuir vídeos sintéticos altamente convincentes”, disse Sofia Rubinson, editora sênior da NewsGuard, que analisa a desinformação online.
“No passado, as pessoas conseguiam muitas vezes identificar falsificações através de sinais reveladores, como movimentos não naturais, texto distorcido ou falta de dedos. Mas à medida que estes sistemas melhoram, muitas dessas falhas estão a desaparecer, tornando cada vez mais difícil para o espectador médio distinguir o conteúdo gerado pela IA das imagens autênticas.”
Por que criar deepfakes em torno de uma crise?
O especialista em IA Henry Ajder disse que a maioria dos deepfakes de furacões que ele viu não são inerentemente políticos. Ele suspeita que esteja “muito mais próximo do tipo mais tradicional de conteúdo baseado em cliques, que consiste em tentar obter engajamento, tentar obter cliques”.
No X, os usuários podem ser pagos com base na quantidade de engajamento que suas postagens obtêm. YouTubers podem ganhar dinheiro com anúncios.
Um vídeo que acumula milhões de visualizações pode render ao criador alguns milhares de dólares, disse Ajder, nada mal para a quantidade de esforço necessária.
As contas nas redes sociais também utilizam vídeos para expandir a sua base de seguidores, a fim de promover projetos, produtos ou serviços, disse Ajder.
Então verifique quem está postando o vídeo. Se a conta tiver um histórico de conteúdo do tipo clickbait, seja cético.
Mas lembre-se de que as pessoas por trás dos vídeos deepfake nem sempre tentam se esconder.
“Alguns criadores estão apenas tentando fazer coisas interessantes usando IA que eles acham que vão chamar a atenção das pessoas”, disse ele.
Então, quem está por trás da conta?
Embora não esteja claro quem exatamente criou o vídeo do tubarão na piscina, uma versão encontrada no Instagram traz a marca d’água de uma conta TikTok, Yulian_Studios. O perfil dessa conta no TikTok se descreve, em espanhol, como “criador de conteúdo com efeitos visuais de IA na República Dominicana”.
O vídeo do tubarão não pode ser encontrado na página da conta, mas tem outro clipe gerado por IA de um homem obeso agarrado a uma palmeira enquanto ventos de furacão sopram na Jamaica.
Confie no seu instinto
O contexto é importante. Pare um pouco para considerar se o que você está vendo é plausível. O site de jornalismo Poynter informa que se você vir uma situação que pareça “exagerada, irreal ou fora do personagem”, considere que pode ser um deepfake.
Isso inclui o áudio. Os vídeos de IA costumavam vir com narrações sintéticas com cadência ou tom incomum, mas ferramentas mais recentes podem criar um som sincronizado que parece realista.
E se você o encontrou no X, verifique se há uma nota da comunidade anexada, que é a ferramenta de verificação de fatos da plataforma, alimentada pelo usuário.
Uma versão do vídeo da piscina de tubarões no X vem com uma nota da comunidade que diz: “Este vídeo e a voz usada foram criados por inteligência artificial, não são imagens reais do furacão Melissa na Jamaica”.
Vá para uma fonte oficial
Não confie apenas em estranhos aleatórios na Internet para obter informações. O governo jamaicano tem publicado atualizações sobre tempestades, assim como o Centro Nacional de Furacões.
