A Pesquisa Google está testando novas táticas para limitar deepfakes explícitos

A explosão de imagens deepfake involuntárias online no ano passado, especialmente de celebridades femininas, criou um grande desafio para os motores de busca. Mesmo que alguém não esteja procurando esse material, a busca por nomes específicos pode gerar um número chocante de links para fotos e vídeos falsos e explícitos dessa pessoa.

O Google está tentando resolver esse problema atualizando seus sistemas de classificação, anunciou a empresa em um blog.

A gerente de produto do Google, Emma Higham, escreveu no post que as atualizações de classificação visavam reduzir o conteúdo falso explícito em muitas pesquisas.

Quando alguém pesquisa deepfakes não consensuais de pessoas específicas usando termos, o sistema de classificação tenta fornecer “conteúdo não explícito e de alta qualidade”, como artigos de notícias, quando disponível.

“Com essas mudanças, as pessoas podem ler sobre o impacto dos deepfakes na sociedade, em vez de ver páginas de imagens falsas não consensuais reais”, escreveu Higham.

De acordo com Higham, as atualizações de classificação já reduziram em 70% a taxa de acerto de pesquisas deepfake com imagens explícitas.

O Google também está tentando avaliar o conteúdo deepfake explícito com uma classificação mais baixa. No entanto, Higham observou que pode ser difícil distinguir entre conteúdo real e consensual – como cenas de nudez de um ator – e material gerado por inteligência artificial sem o consentimento do ator.

Para facilitar a detecção de conteúdo deepfake, os rankings do Google agora levam em consideração se as páginas de um site foram removidas da busca de acordo com as diretrizes da empresa. Sites que eram frequentemente removidos por causa de imagens falsas e explícitas agora estão sendo rebaixados nas pesquisas.

Além disso, o Google está atualizando sistemas que lidam com solicitações para remover deepfakes não consensuais da pesquisa. As alterações tiveram como objetivo simplificar o processo de solicitação.

Se uma vítima conseguir remover deepfakes da Pesquisa Google, os sistemas da empresa tentarão filtrar todos os resultados relacionados de pesquisas semelhantes sobre essa pessoa e verificar e remover duplicatas dessas imagens.

Higham reconheceu que há “mais trabalho a ser feito” e que o Google continuará a desenvolver “novas soluções” para ajudar as pessoas afetadas por deepfakes não consensuais.

O anúncio do Google ocorre dois meses depois de a Casa Branca ter apelado às empresas de tecnologia para que parassem de espalhar imagens explícitas e profundas.