Em uma série de postagens no Threads esta tarde, o chefe do Instagram, Adam Mosseri, diz que os usuários não devem confiar nas imagens que veem online porque a IA está “produzindo claramente” conteúdo que é facilmente confundido com a realidade. Por isso, ele diz que os usuários devem considerar a fonte e as plataformas sociais devem ajudar nisso.
“Nosso papel como plataformas de internet é rotular o conteúdo gerado como IA da melhor maneira possível”, escreve Mosseri, mas admite que “algum conteúdo” será ignorado por esses rótulos. Por isso, as plataformas “também devem fornecer contexto sobre quem está compartilhando” para que os usuários possam decidir até que ponto confiam em seu conteúdo.
Assim como é bom lembrar que os chatbots mentem para você com segurança antes de você confiar em um mecanismo de pesquisa com tecnologia de IA, verificar se as reivindicações ou imagens postadas vêm de uma conta confiável pode ajudá-lo a considerar sua veracidade. No momento, as plataformas Meta não oferecem muito do tipo de contexto sobre o qual Mosseri postou hoje, embora a empresa recentemente tenha sugerido grandes mudanças em suas regras de conteúdo.
O que Mosseri descreve parece mais próximo da moderação liderada pelo usuário, como Community Notes no X e YouTube ou filtros de moderação personalizados do Bluesky. Não se sabe se Meta planeja introduzir algo assim, mas, novamente, sabe-se que ele tirou páginas do livro de Bluesky.
