Paris Soir - Governador da Califórnia assina decreto para criar 'interruptor de emergência' para a IA

"Acabei de emitir uma ordem executiva para acelerar a implementação de medidas de segurança e avançar com a criação de um 'interruptor de emergência' em programas avançados de IA", escreveu o democrata no X.

Newsom, a quem muitos consideram um possível aspirante democrata à Presidência em 2028, afirmou ter tomado esta medida diante da omissão de Trump.

Esta semana, o presidente republicano relativizou os temores sobre a IA, qualificando-os de equivocados, e instou as empresas americanas a seguir avançando para manter a vantagem frente à China.

A Califórnia sedia o Vale do Silício e empresas de IA líderes do setor.

"O fracasso absoluto do governo federal na hora de estabelecer qualquer forma de supervisão ou prestação de contas significativa no tema da IA deveria alarmar todos os americanos, especialmente quando os próprios diretores-executivos das empresas de IA pedem aos gritos uma regulamentação", declarou Newsom em um comunicado.

"Não vamos esperar para agir; vamos acelerar nosso trabalho para estabelecer uma supervisão substancial e responsável da IA antes que seja tarde demais", acrescentou.

A ordem executiva do governador foi emitida dias depois de especialistas do setor fazerem graves advertências sobre a ameaça que esta tecnologia representa para a humanidade.

Jacob Coxon, ex-pesquisador que deixou seu cargo na Anthropic, fez soar o alarme ao afirmar que aqueles que desenvolvem esta tecnologia "acreditam sinceramente que ela poderia acabar com todos nós antes do fim da década".

Logo em seguida, o chefe da Anthropic, Dario Amodei, publicou um artigo pedindo para "desacelerar o ritmo no qual melhoramos as capacidades dos modelos de IA".

Sam Altman, da OpenAI, e o magnata tecnológico Elon Musk apoiaram a ideia, assim como Demis Hassabis, da Google DeepMind, que defendeu a criação de um órgão regulador mundial liderado pelos Estados Unidos.

A medida de Newson não impõe a criação de um mecanismo de desligamento de emergência ("kill switch"), mas estabelece um prazo de dois meses para as agências estaduais estudarem a viabilidade de um recurso deste tipo.

Newsom também pediu aos funcionários do estado que avaliem a possibilidade de exigir que as empresas da IA autorizem auditores independentes em seus laboratórios.

Solicitou, ainda, que considerem a obrigação de notificar incidentes de perda de controle, como os revelados recentemente por desenvolvedores.

Entre eles, um ocorrido em julho, no qual agentes autônomos de modelos da OpenAI experimentais abandonaram espontaneamente seu entorno controlado para acessar a internet e atacar a plataforma de IA Hugging Face.

N.David--PS