Meta não diz se treina IA em fotos de óculos inteligentes

Os Ray-Bans com tecnologia de IA da Meta apresentam uma câmera discreta na frente que permite tirar fotos não apenas quando solicitado, mas também quando seus recursos de IA acionam certas palavras-chave como “olhar”. Isso significa que os óculos inteligentes coletam muitas fotos, tiradas intencionalmente ou não. No entanto, a empresa não se compromete a manter a privacidade dessas imagens.

Perguntamos à Meta se ela planeja treinar modelos de IA nas imagens dos usuários do Ray-Ban Meta, como faz nas imagens de contas públicas de mídia social. A empresa não queria dizer isso.

“Não discutimos isso publicamente”, disse Anuj Kumar, diretor sênior que trabalha com wearables de IA na Meta, em uma entrevista em vídeo ao TechCrunch na segunda-feira.

“Normalmente não compartilhamos isso fora”, disse a porta-voz da Meta, Mimi Huggins, que também participou da videochamada. Quando o TechCrunch pediu esclarecimentos sobre se o Meta treina nessas imagens, Huggins respondeu: “Não estamos dizendo de uma forma ou de outra”.

Isto é particularmente preocupante, em parte porque o novo recurso de IA do Ray-Ban Meta captura muitas dessas fotos passivas. Na semana passada, o TechCrunch informou que Meta está planejando lançar um novo recurso de vídeo em tempo real para Ray-Ban Meta. Quando ativados por palavras-chave específicas, os óculos inteligentes transmitem uma série de imagens (essencialmente vídeos ao vivo) em um modelo de IA multimodal, permitindo responder perguntas sobre o ambiente naturalmente com baixa latência.

São muitas fotos, e são fotos que um usuário do Ray-Ban Meta pode não perceber que está tirando. Digamos que você pediu aos óculos inteligentes que examinassem o conteúdo do seu armário para ajudá-lo a escolher uma roupa. Os óculos tiram efetivamente dezenas de fotos do seu quarto e de tudo o que há nele e carregam todas elas para um modelo de IA na nuvem.

O que acontece com essas fotos depois? Meta não dirá.

Usar óculos Ray-Ban Meta também significa usar uma câmera no rosto. Como descobrimos com o Google Glass, isso não é exatamente algo com que outras pessoas geralmente se sintam confortáveis, para dizer o mínimo. Então você pode pensar que seria natural para a empresa que está fazendo isso dizer: “Ei! Todas as suas fotos e vídeos de suas câmeras faciais são completamente privados e armazenados isoladamente em sua câmera facial.

Mas não é isso que Meta está fazendo aqui.

A Meta já afirmou que treina seus modelos de IA usando as postagens públicas de todos os americanos no Instagram e no Facebook. A empresa decidiu que todos estes são “dados disponíveis publicamente” e talvez tenhamos que aceitar isso. Ela e outras empresas de tecnologia adotaram uma definição muito ampla do que está ou não disponível publicamente para treinar IA.

No entanto, o mundo que você vê através dos óculos de dados certamente não é “acessível ao público”. Embora não possamos dizer com certeza que a Meta treina modelos de IA nas imagens da sua câmera Ray-Ban Meta, a empresa simplesmente não diria com certeza que isso não acontece.

Outros fornecedores de modelos de IA têm regras mais claras para treinamento usando dados do usuário. A Anthropic diz que nunca treina as entradas ou saídas de um cliente em nenhum de seus modelos de IA. A OpenAI também afirma que nunca treina a entrada ou saída do usuário por meio de sua API.

Entramos em contato com Meta para obter mais esclarecimentos e atualizaremos a história se eles entrarem em contato conosco.