Paris Soir - CEO da Meta rejeita apelos para desacelerar o desenvolvimento da IA

A preocupação com a IA aumentou nas últimas semanas após vários incidentes de segurança e à nova capacidade dos modelos de Inteligência Artificial de se aperfeiçoarem sozinhos, sem a intervenção humana.

"As pessoas não vão querer usar agentes que estejam desalinhados com elas e que não façam o que elas pedem, então os laboratórios têm um forte incentivo natural para tornar seus modelos mais alinhados", escreveu Zuckerberg no X.

O "alinhamento" é uma referência aos esforços para conseguir fazer com que os modelos se comportem exatamente como os humanos desejam. "Qualquer laboratório que não focar no alinhamento ficará para trás", escreveu Zuckerberg.

O debate agora também aborda a capacidade de autorregulamentação do setor. Empresas como OpenAI, Anthropic e Google estudam a criação de um organismo comum para elaborar normas.

Zuckerberg alegou, no entanto, que a ameaça de ações judiciais já obriga os laboratórios a atuar de "maneira responsável". Ele citou como exemplo a decisão da Meta de adiar por vários meses o lançamento de seu sistema Muse AI, dotado de agentes personalizados, para reforçar seus mecanismos de segurança e proteção.

Também se expressou a favor de avaliações independentes dos sistemas de IA, ressaltando que a 'Meta Superintelligence Labs', a divisão de IA do grupo, já recorre a especialistas externos. E pediu a criação de um "ecossistema mais amplo e mais diverso de avaliadores" no setor.

A Meta, que investirá até 145 bilhões de dólares em suas infraestruturas de IA neste ano, luta contra qualquer regulamentação que possa frear a empresa.

Nenhuma norma deveria atrasar o lançamento dos modelos americanos, nem sequer um mês, defendeu o empresário no início de agosto.

X.Francois--PS