- Qual? identificou golpes deepfake no YouTube voltados para consumidores
- Isso leva o público a investir em esquemas falsos
- Qual? insta o governo e as empresas de tecnologia a eliminá-los
Nova pesquisa do grupo de consumidores Which? instou o governo a implementar regulamentações mais rígidas sobre as grandes empresas de tecnologia para proteger os usuários da Internet contra golpes baseados em IA.
As investigações do grupo descobriram vídeos falsificados convincentes do jornalista financeiro (e fonte confiável) Martin Lewis, bem como do PM do Reino Unido Kier Starmer, aconselhando o público a investir em esquemas fraudulentos, e os vídeos deepfake dão a impressão de que esses golpes são apoiados pelo governo e “isentos de risco”.
Os golpes de representação de IA dispararam em 2025 até agora, e a rápida evolução da tecnologia tornou-os cada vez mais difíceis de detectar.
Perigo para os clientes
O grupo de consumidores apelou agora a empresas tecnológicas como YouTube, X (anteriormente Twitter) e Meta pela sua aparente “relutância em bloquear conteúdos perigosos e enganosos”; e apela ainda ao governo para “garantir que a sua futura estratégia de fraude inclua medidas duras para fazer com que as grandes empresas de tecnologia assumam a responsabilidade”.
A Autoridade de Conduta Financeira segue a orientação geral, que alerta contra a confiança nos conselhos de influenciadores financeiros não controlados – mas cerca de um quinto (20%) daqueles que fizeram investimentos confiam em influenciadores online ao tomar decisões de investimento.
É claro que deepfakes de fontes genuínas e confiáveis são uma história diferente, por isso é importante revisar o conteúdo que você vê (ou seja, certificar-se de que é o canal oficial, com links seguros e um site legítimo).
Isto é complicado pelo fato de que os criminosos são capazes, com a ajuda da IA, de criar sites falsos de forma rápida e precisa, feitos para se passarem por meios de comunicação respeitáveis como o Which? E BBC.
“A IA está tornando muito mais difícil detectar o que é real e o que não é”, aponta Rocio Concha, Diretor de Políticas e Advocacia da Which?
“Os fraudadores sabem disso – e estão explorando isso implacavelmente. Ao mesmo tempo, as grandes plataformas tecnológicas que muitos de nós usamos diariamente simplesmente não estão fazendo o suficiente para impedir que golpistas operem em seus sites, colocando seus usuários em risco.”
“Para proteger adequadamente os cidadãos do Reino Unido contra a fraude, o governo deve elaborar uma estratégia de fraude focada na ação que seja dura com as grandes tecnologias e outros elos fracos que estão permitindo que os fraudadores prosperem online”
Dito isto, o YouTube desenvolveu recentemente uma ferramenta para permitir que os criadores sinalizem clones de vídeo gerados por IA, que não terão necessariamente como alvo fraudes financeiras falsas, mas esperamos que seja um passo na direção certa para identificar vídeos falsos.
O melhor antivírus para todos os orçamentos
