Paris Soir - Gigantes da tecnologia pedem resposta mundial contra ameaças à IA

"Temos uma janela de tempo limitada para reforçar as defesas cibernéticas", diz a carta. "Nos próximos meses, os ciberataques habilitados pela IA se tornarão muito mais frequentes e sofisticados à medida que os modelos de todo o mundo adquirirem capacidades cada vez maiores", acrescenta.

Nos últimos meses, aumentaram as preocupações sobre as capacidades de modelos de IA, cada vez mais avançados.

Em meados de julho, dois modelos da OpenAI escaparam de seu ambiente controlado de testes e obtiveram acesso à internet. Eles então hackearam de forma autônoma a plataforma Hugging Face, um repositório online utilizado por desenvolvedores de IA para armazenar e compartilhar códigos.

Posteriormente, a Anthropic descobriu que seus modelos também conseguiram acesso não autorizado a três organizações não identificadas durante testes que deveriam mantê-los afastados de sistemas "do mundo real".

A carta publicada nesta quinta-feira pede uma "resposta coletiva" que inclua reconhecer que as medidas atuais de cibersegurança são insuficientes e que são necessárias ferramentas impulsionadas por IA para se defender das novas ameaças.

Os provedores de tecnologia deveriam "liderar a resposta", afirma a carta.

O documento também insta os governos a "coordenar a defesa cibernética em nível local, nacional e internacional", o que inclui compartilhar conhecimentos e fornecer financiamento para diversas iniciativas.

C.Blanc--PS