O pioneiro da inteligência artificial, Geoffrey Hinton, diz que está se tornando cada vez mais difícil distinguir vídeos, vozes e imagens geradas pela tecnologia de imagens reais – mas ele tem uma ideia que pode ajudar na luta.
A batalha crescente contribuiu para uma mudança na forma como o cientista da computação britânico-canadense e recente ganhador do Nobel acredita que o mundo poderia lidar com conteúdo falso.
“Por um tempo pensei que talvez pudéssemos chamar as coisas de geradas por IA”, disse Hinton na segunda-feira nas palestras inaugurais de Hinton.
“Acho que agora é mais plausível ver que as coisas são reais, pegando algum código e acessando alguns sites e vendo as mesmas coisas lá.”
Hinton falou no primeiro dos eventos de duas noites Hinton Lectures do Global Risk Institute, realizados esta semana no John WH Bassett Theatre, em Toronto.
Hinton, muitas vezes referido como o padrinho da IA, subiu brevemente ao palco para lembrar ao público a ladainha de riscos que a tecnologia representa para o público. Ele acredita que a IA pode causar ou contribuir para desastres acidentais, desemprego, crimes cibernéticos, discriminação e ameaças biológicas e existenciais.
Ele disse que a abordagem de rotulagem garantiria que o conteúdo não fosse falso e imagina que poderia ser particularmente útil quando se trata de publicidade política em vídeo.
“Você poderia ter algo como um código QR lá [taking you] para um site, e se houver um vídeo idêntico nesse site, tudo o que você precisa saber é que esse site é real”, explicou Hinton.
De acordo com uma pesquisa com 2.501 canadenses realizada em abril pela Dais, uma organização de políticas públicas da Universidade Metropolitana de Toronto, a maioria dos canadenses descobriu deepfakes online e quase um quarto os encontra semanalmente.
Deepfakes são imagens ou vídeos manipulados digitalmente que mostram cenas que não aconteceram. Deepfakes recentes mostraram o Papa Francisco vestindo uma jaqueta Balenciaga e a estrela pop Taylor Swift em poses sexualmente explícitas.
Numa conferência de imprensa após o evento, Hinton partilhou mais sobre o que fez com a sua metade dos 1,45 milhões de dólares que ele e o investigador da Universidade de Princeton, John Hopfield, receberam quando ganharam o Prémio Nobel de Física no início deste mês.
Hinton disse que doou metade de sua parte no prêmio à Water First, uma organização com sede em Creemore, Ontário, que treina comunidades indígenas no desenvolvimento e fornecimento de acesso a sistemas de água potável.
Ele inicialmente pensou em doar parte do dinheiro para uma organização de água onde o ator Matt Damon está envolvido na África, mas depois disse que seu parceiro lhe perguntou: “E o Canadá?”
O vencedor do Prêmio Nobel de Física deste ano é Geoffrey Hinton, um canadense britânico conhecido como o “Padrinho da IA”. Ele fala com a correspondente-chefe da CBC, Rosemary Barton, sobre como os governos devem regular a tecnologia e seu uso em campanhas eleitorais.
Foi isso que levou Hinton a descobrir a Water First. Ele disse que foi obrigado a doar por causa dos reconhecimentos de terras que ouve no início de muitos eventos.
“Acho ótimo que eles estejam sendo reconhecidos [who lived on the land first]mas não impede que as crianças indígenas tenham diarreia”, disse ele.
Hinton disse anteriormente que parte de seus lucros também irá para uma organização que oferece empregos para jovens adultos neurodiversos.
“Pessimista preocupado”
A maior parte da noite de segunda-feira foi dedicada a uma palestra de Jacob Steinhardt, professor assistente de engenharia elétrica, ciência da computação e estatística na UC Berkeley, na Califórnia.
Steinhardt disse ao público que acredita que a IA avançará ainda mais rápido do que muitos esperam, mas haverá surpresas ao longo do caminho.
Ele prevê que até 2030, a IA será “sobre-humana” quando se trata de matemática, programação e hacking.
Ele também acredita que grandes modelos de linguagem subjacentes aos sistemas de IA poderiam ser capazes de persuadir ou manipular.
“Há uma margem de manobra significativa se alguém tentar treinar [them] “Quando se trata de persuasão, pode ser uma empresa sem escrúpulos ou um governo que se preocupa em persuadir os seus cidadãos”, disse Steinhardt. “Há muitas coisas que poderiam ser feitas.”
Ele disse ao público que se vê como um “otimista preocupado” que acredita que há 10% de chance de que a tecnologia leve à extinção humana e 10% de chance de que traga imenso valor econômico e “prosperidade radical”. é 50 por cento.
Questionado numa conferência de imprensa posterior sobre o rótulo de Steinhardt como um “otimista preocupado”, Hinton descreveu-se como um “pessimista preocupado”.
“Há pesquisas que mostram que quando se pede às pessoas para avaliarem os riscos, as pessoas normais e saudáveis subestimam enormemente os riscos de coisas realmente más acontecerem… e as pessoas que avaliam os riscos corretamente ficam facilmente deprimidas”, disse Hinton.
“Eu sou um deles e acho que os riscos são um pouco maiores do que os de Jacob.” [Steinhardt] pensa – digamos, cerca de 20 por cento.”
