OpenAI afirma ter descoberto uma “operação de influência iraniana” dirigida por ChatGPT

A OpenAI anunciou na sexta-feira que descobriu uma “operação de influência iraniana” usando ChatGPT. O grupo, conhecido como Storm-1679, criou artigos e comentários nas redes sociais para influenciar a opinião pública sobre a vice-presidente Kamala Harris e o ex-presidente Donald Trump, de acordo com a OpenAI. De acordo com a OpenAI, Storm-1679 não teve apenas como alvo os candidatos presidenciais dos EUA em 2024, mas também conteúdo relacionado à invasão de Gaza por Israel e sua presença nas Olimpíadas de 2024, os direitos das comunidades latinas baseadas nos EUA, a política venezuelana e a independência. da Escócia do Reino Unido.

A maioria das postagens e artigos descobertos pela OpenAI raramente foram captados por pessoas reais, disse a empresa. Ainda assim, descreveu o incidente em detalhes em seu blog, escrevendo que encontrou uma dúzia de contas X (antigo Twitter) se passando por conservadores e progressistas e usando hashtags como “#DumpTrump” e “#DumpKamala”. De acordo com a OpenAI, Storm-1679 também utilizou pelo menos uma conta do Instagram para distribuir conteúdo gerado por IA.

A OpenAI descreveu anteriormente “atores de ameaças afiliados ao estado” usando suas ferramentas, mas esta é a primeira vez que divulga uma campanha específica de influência eleitoral usando ChatGPT.

A OpenAI disse que respondeu a esta descoberta suspendendo um “grupo” de contas que criaram o conteúdo. A empresa também disse que “compartilhou inteligência sobre ameaças com partes interessadas do governo, da campanha e da indústria”. A empresa não identificou os envolvidos pelo nome, mas compartilhou capturas de tela de algumas postagens. Essas capturas de tela mostraram contagens de visualizações entre 8 e 207 e quase nenhuma curtida.

A OpenAI disse que Storm-1679 também compartilhou artigos gerados pelo ChatGPT em vários sites “disfarçados de meios de comunicação progressistas e conservadores”. A empresa acrescentou: “A maioria das postagens nas redes sociais que identificamos recebeu poucas ou nenhuma curtida, compartilhamento ou comentário. Da mesma forma, não encontramos nenhuma evidência de que os artigos da web tenham sido compartilhados nas redes sociais.”

Um relatório de 6 de agosto da Microsoft descreveu a Storm-2035 de forma semelhante – como uma rede iraniana com “quatro sites disfarçados de meios de comunicação”. Segundo a Microsoft, a rede criou histórias “polarizantes” sobre as eleições, os direitos LGBTQIA+ e a invasão de Gaza por Israel.

Relatos de interferência estrangeira online nas eleições dos EUA são agora praticamente comuns. Por exemplo, o relatório de 6 de agosto da Microsoft também descreveu um ataque de phishing ligado ao Irã que teve como alvo um alto funcionário da campanha dos EUA. Pouco depois de a Microsoft abandonar o relatório, a campanha de Trump anunciou que “fontes estrangeiras” roubaram alguns dos seus e-mails e documentos para influenciar as eleições presidenciais de 2024. Oito anos antes, um grupo de hackers ligado à Rússia chamado Guccifer 2.0 obteve e-mails do Comitê Nacional Democrata por meio de um ataque de phishing semelhante; Acabaram por vazar milhares de e-mails e documentos do DNC na preparação para a Convenção Nacional Democrata de 2016.

Sob intensa pressão dos legisladores, as principais empresas tecnológicas lançaram várias medidas em resposta a tais incidentes ao longo dos anos. Os seus esforços incluem memes de verificação de factos, ilusões, uma proibição de curto prazo da publicidade política, uma “sala de guerra” e colaboração com rivais e a polícia.

A OpenAI anunciou na sexta-feira que descobriu uma “operação de influência iraniana” usando ChatGPT. O grupo, conhecido como Storm-1679, criou artigos e comentários nas redes sociais para influenciar a opinião pública sobre a vice-presidente Kamala Harris e o ex-presidente Donald Trump, de acordo com a OpenAI. De acordo com a OpenAI, Storm-1679 não teve apenas como alvo os candidatos presidenciais dos EUA em 2024, mas também conteúdo relacionado à invasão de Gaza por Israel e sua presença nas Olimpíadas de 2024, os direitos das comunidades latinas baseadas nos EUA, a política venezuelana e a independência. da Escócia do Reino Unido.

A maioria das postagens e artigos descobertos pela OpenAI raramente foram captados por pessoas reais, disse a empresa. Ainda assim, descreveu o incidente em detalhes em seu blog, escrevendo que encontrou uma dúzia de contas X (antigo Twitter) se passando por conservadores e progressistas e usando hashtags como “#DumpTrump” e “#DumpKamala”. De acordo com a OpenAI, Storm-1679 também utilizou pelo menos uma conta do Instagram para distribuir conteúdo gerado por IA.

A OpenAI descreveu anteriormente “atores de ameaças afiliados ao estado” usando suas ferramentas, mas esta é a primeira vez que divulga uma campanha específica de influência eleitoral usando ChatGPT.

A OpenAI disse que respondeu a esta descoberta suspendendo um “grupo” de contas que criaram o conteúdo. A empresa também disse que “compartilhou inteligência sobre ameaças com partes interessadas do governo, da campanha e da indústria”. A empresa não identificou os envolvidos pelo nome, mas compartilhou capturas de tela de algumas postagens. Essas capturas de tela mostraram contagens de visualizações entre 8 e 207 e quase nenhuma curtida.

A OpenAI disse que Storm-1679 também compartilhou artigos gerados pelo ChatGPT em vários sites “disfarçados de meios de comunicação progressistas e conservadores”. A empresa acrescentou: “A maioria das postagens nas redes sociais que identificamos recebeu poucas ou nenhuma curtida, compartilhamento ou comentário. Da mesma forma, não encontramos nenhuma evidência de que os artigos da web tenham sido compartilhados nas redes sociais.”

Um relatório de 6 de agosto da Microsoft descreveu a Storm-2035 de forma semelhante – como uma rede iraniana com “quatro sites disfarçados de meios de comunicação”. Segundo a Microsoft, a rede criou histórias “polarizantes” sobre as eleições, os direitos LGBTQIA+ e a invasão de Gaza por Israel.

Relatos de interferência estrangeira online nas eleições dos EUA são agora praticamente comuns. Por exemplo, o relatório de 6 de agosto da Microsoft também descreveu um ataque de phishing ligado ao Irã que teve como alvo um alto funcionário da campanha dos EUA. Pouco depois de a Microsoft abandonar o relatório, a campanha de Trump anunciou que “fontes estrangeiras” roubaram alguns dos seus e-mails e documentos para influenciar as eleições presidenciais de 2024. Oito anos antes, um grupo de hackers ligado à Rússia chamado Guccifer 2.0 obteve e-mails do Comitê Nacional Democrata por meio de um ataque de phishing semelhante; Acabaram por vazar milhares de e-mails e documentos do DNC na preparação para a Convenção Nacional Democrata de 2016.

Sob intensa pressão dos legisladores, as principais empresas tecnológicas lançaram várias medidas em resposta a tais incidentes ao longo dos anos. Os seus esforços incluem memes de verificação de factos, ilusões, uma proibição de curto prazo da publicidade política, uma “sala de guerra” e colaboração com rivais e a polícia.