Governador Newsom sobre a lei de IA da Califórnia SB 1047: “Não consigo encontrar uma solução para tudo”

O governador da Califórnia, Gavin Newsom, disse na terça-feira que há 38 projetos de lei em sua mesa que criariam leis de inteligência artificial, mas um se eleva sobre todos eles: SB 1047, o projeto de lei da Califórnia que visa impedir que sistemas de IA causem desastres. Pela primeira vez, o governador da Califórnia compartilhou o que pensa sobre o polêmico projeto de lei.

Em suma, ele acredita que o SB 1047 tem problemas. Newsom disse que está interessado em uma legislação de IA que possa resolver os problemas atuais sem perturbar a crescente indústria de IA da Califórnia. Isso não é um bom presságio para o futuro do SB 1047, que se destina a proteger contra desastres, responsabilizando os grandes fornecedores de IA se os seus produtos forem utilizados para causar danos graves, como paralisar infra-estruturas críticas. Ao mesmo tempo, a assinatura do projeto irritaria grandes segmentos da indústria de IA que desejam que Newsom rejeite o projeto.

“Temos trabalhado nos últimos anos para encontrar regulamentações sensatas que incentivem a tomada de riscos, mas não a imprudência”, disse Newsom na terça-feira em uma conversa com o CEO da Salesforce, Marc Benioff, no palco da conferência Dreamforce 2024. “Isso está em “Esta área. é atualmente um desafio, especialmente com o SB 1047, já que a legislação pode ter um enorme impacto e um efeito inibidor, especialmente na comunidade de código aberto.”

Newsom prosseguiu dizendo que precisava pesar os riscos comprovados versus os riscos hipotéticos. Mais tarde, ele comentou: “Não consigo resolver tudo. O que podemos resolver?”

O governador abordou uma crítica importante ao SB 1047: o projeto de lei procura prevenir o papel da IA ​​em vítimas em massa e incidentes de segurança cibernética que custam mais de 500 milhões de dólares, mas faz pouco para responsabilizar as empresas de tecnologia por menos do que esse montante. Os críticos do SB 1047 argumentaram que o projeto de lei poderia sufocar a inovação, ao mesmo tempo que não conseguia resolver os problemas de curto prazo que os sistemas de IA estão a causar atualmente.

Newsom fez os comentários em uma sala lotada de participantes de uma conferência de tecnologia empresarial no coração de São Francisco. Na maioria das conferências de tecnologia das quais participei ultimamente, você ouvirá reclamações na fila do banheiro sobre os muitos problemas com o SB 1047. Newsom provavelmente sabia que tipo de eleitores estavam na plateia e pode estar agradando a multidão.

No entanto, o governador também cumpre suas palavras. Na terça-feira, o governador da Califórnia assinou cinco projetos de lei que abordam os problemas de IA que veremos já em 2024, como a desinformação eleitoral gerada pela IA e os estúdios de Hollywood que criam clones de atores de IA. Estes poderiam ser os “riscos demonstráveis” aos quais Newsom se refere.

Ao mesmo tempo, Newsom reclamou na terça-feira que o governo federal “falhou” em regulamentar na área de IA. O governador observou que a Califórnia tem historicamente liderado o caminho na regulamentação da tecnologia – especialmente as redes sociais e a privacidade – e não está surpreso que as pessoas estejam novamente olhando para o estado em busca de liderança.

Um porta-voz do autor do SB 1047, o senador do estado da Califórnia Scott Wiener, não respondeu imediatamente ao pedido de comentários do TechCrunch.

“[AI] é uma área onde dominamos e quero manter o nosso domínio”, disse Newsom. “Ao mesmo tempo, existe um profundo sentido de responsabilidade para abordar algumas das preocupações mais extremas que muitos de nós temos – mesmo os maiores e mais fortes defensores desta tecnologia – e esse é um ponto de partida difícil.”

Newsom sugeriu que dizer que assinar o SB 1047 iria perturbar a indústria de IA da noite para o dia era provavelmente um exagero. Mas ele observou que a assinatura de leis erradas poderia prejudicar significativamente a liderança da Califórnia ao longo de alguns anos.

O governador da Califórnia não disse especificamente na terça-feira se assinaria ou rejeitaria o projeto. OpenAI, Nancy Pelosi, a Câmara de Comércio dos EUA e grupos industriais que representam grandes empresas de tecnologia estão instando Newsom a bloquear o SB 1047. Por outro lado, Elon Musk, Anthropic e alguns respeitados investigadores de IA expressaram apenas um entusiasmo morno.

O governador Newsom tem duas semanas para tomar sua decisão. Até então, ficamos com um monte de comentários que não são um bom presságio para o futuro do projeto de lei.