Os legisladores da Califórnia aprovaram uma projeto de lei de segurança de inteligência artificial muito contestado na quarta-feira, após o que será necessária mais uma votação processual antes que seu destino esteja nas mãos do governador Gavin Newsom, que tem até 30 de setembro para decidir se a sanciona ou vetará.
As empresas de tecnologia que desenvolvem IA generativa — que pode responder a solicitações com texto, imagens ou áudio totalmente formados, bem como executar tarefas repetitivas com intervenção mínima — têm se oposto amplamente à legislação, chamada SB 1047, dizendo que ela poderia afastar as empresas de IA do estado e dificultar a inovação.
Alguns democratas no Congresso, incluindo o representante Nancy Pelosi também se opôs. Os proponentes incluem o CEO da Tesla, Elon Musk, que também dirige uma empresa de IA chamada xAI e disse ele apoia o projeto de lei.
A medida exige testes de segurança para muitos dos modelos de IA mais avançados que custam mais de US$ 100 milhões para desenvolver ou aqueles que exigem uma quantidade definida de poder de computação. Os desenvolvedores de software de IA que operam no estado também precisam delinear métodos para desligar os modelos de IA se eles derem errado, efetivamente um kill switch.
O projeto de lei também dá ao procurador-geral do estado o poder de processar os desenvolvedores caso eles não estejam em conformidade, principalmente no caso de uma ameaça contínua, como a IA assumindo o controle de sistemas governamentais, como a rede elétrica.
Além disso, o projeto de lei exige que os desenvolvedores contratem auditores terceirizados para avaliar suas práticas de segurança e fornecer proteções adicionais aos denunciantes que se manifestam contra abusos de IA.
O autor do projeto de lei, o senador estadual democrata Scott Wiener, representa São Francisco, lar da OpenAI e de muitas das startups que desenvolvem o poderoso software. Ele disse que a legislação é necessária para proteger o público antes que os avanços na IA se tornem difíceis de manejar ou incontroláveis.
Martin Casado, sócio geral da firma de capital de risco Andreessen Horowitz, disse antes da votação que esperava que Newsom a vetasse. “Tem a oposição mais bipartidária e ampla que já vi”, disse ele.
O Google, da Alphabet, a OpenAI, apoiada pela Microsoft, e a Meta Platforms expressaram suas preocupações em cartas a Wiener. Anthropic apoiado pela Amazon disse que os benefícios do projeto de lei provavelmente superam os custos, embora tenha acrescentado que ainda há alguns aspectos que parecem preocupantes ou ambíguos.
