O chefe do Instagram diz que a mídia social precisa de mais contexto por causa da IA

Em uma série de postagens no Threads esta tarde, o chefe do Instagram, Adam Mosseri, diz que os usuários não devem confiar nas imagens que veem online porque a IA “claramente” produz conteúdo que pode ser facilmente confundido com a realidade. Por isso, os usuários devem considerar a fonte e as plataformas sociais devem ajudar nisso, afirma.

“Nosso papel como plataformas de internet é rotular o conteúdo como IA da melhor maneira possível”, escreve Mosseri, mas reconhece que “algum conteúdo” é ignorado por esses rótulos. Por esta razão, as plataformas “também precisam de fornecer contexto sobre quem está a partilhar” para que os utilizadores possam decidir o quanto querem confiar no seu conteúdo.

Antes de confiar em um mecanismo de pesquisa com tecnologia de IA, lembre-se de que os chatbots mentirão para você com segurança. Verificar se as reivindicações ou imagens postadas vêm de uma conta confiável pode ajudá-lo a determinar sua veracidade. No momento, as plataformas Meta não oferecem muito do contexto que Mosseri postou hoje, embora a empresa recentemente tenha sugerido grandes mudanças futuras em suas regras de conteúdo.

O que Mosseri descreve é ​​mais parecido com a moderação liderada pelo usuário, como Community Notes no X e YouTube ou com os filtros de moderação personalizados do Bluesky. Não se sabe se Meta planeja introduzir algo assim, mas, novamente, sabe-se que está retirando páginas do livro de Bluesky.