Meta (META.US) Zuckerberg responde ao debate sobre desaceleração da IA: continuará avançando nas capacidades dos modelos e reforçando a proteção de segurança

Segundo o aplicativo da Jinse Finance, o CEO da Meta Platforms (META.US), Mark Zuckerberg, e o chefe de IA da empresa, Alexander Wang, expressaram opiniões sobre o ritmo de desenvolvimento da IA, defendendo que os laboratórios de IA devem continuar a aprimorar as capacidades dos modelos, ao mesmo tempo em que constroem medidas de proteção mais robustas em torno dos modelos cada vez mais poderosos.

As declarações de ambos foram publicadas na plataforma X. Atualmente, o setor discute amplamente se se deve desacelerar o desenvolvimento das capacidades da IA até que haja mais avanços em segurança. O chamado “AI safety” refere-se a garantir que os sistemas de IA sigam de forma confiável as intenções e valores humanos.

O preço das ações da Meta subiu por três sessões consecutivas até terça-feira, acumulando alta de 4,2%, com ligeira valorização no mercado noturno. Segundo a última análise no Stocktwits, o sentimento dos pequenos investidores em relação à ação era de “extremo pessimismo”.

Zuckerberg: os laboratórios têm incentivos para criar IA mais segura

Zuckerberg declarou que as empresas de IA já possuem fortes incentivos comerciais e legais para promover a segurança dos modelos e alinhá-los com os usuários. “As pessoas não vão querer utilizar agentes inteligentes que não estejam alinhados ou que não ajam conforme suas exigências,” escreveu Zuckerberg. “Qualquer laboratório que não se concentre no alinhamento ficará para trás.”

Ele considera que o alinhamento está se tornando uma importante competência competitiva, e não apenas uma restrição ao desenvolvimento da IA. “Minha opinião é que confiança e alinhamento estão rapidamente se tornando as capacidades mais importantes para diferenciar agentes inteligentes e modelos,” afirmou.

Zuckerberg também mencionou que a Meta decidiu adiar o lançamento do modelo Muse por alguns meses para tratar questões de segurança e proteção.

Meta apoia supervisão externa

Zuckerberg e Alexander Wang defenderam que, à medida que os modelos de IA se tornam mais potentes, deve haver uma maior introdução de entidades de avaliação independentes e supervisão externa.

“A inclusão de avaliadores e consultores independentes é a melhor prática do setor,” afirmou Zuckerberg, acrescentando que um ecossistema de avaliadores maior e mais diversificado irá melhorar o trabalho de segurança da IA.

Alexander Wang também afirmou que os laboratórios de IA devem manter um “forte quadro de governança” durante todo o processo de treinamento e implantação, incluindo avaliadores externos e supervisão independente sobre os padrões de segurança na publicação dos modelos.

Ele acrescentou: “Cada laboratório deve operar sob a proteção das instituições dos países democráticos… Isso significa que, se um modelo causar danos, o laboratório enfrentará uma responsabilidade legal significativa.”

Meta defende estratégia de alocação de poder computacional

Um ponto crucial das argumentações dos executivos é que a Meta decidiu dedicar a maior parte do poder computacional para atender os usuários, em vez de acelerar o aprimoramento recursivo de autosuficiência (RSI).

“Investir a esmagadora maioria do poder computacional para servir a humanidade, em vez de competir pelo aprimoramento recursivo de autosuficiência, é uma das melhores formas de garantir o desenvolvimento seguro desta tecnologia,” afirmou Zuckerberg.

A preocupação é que o RSI pode permitir que sistemas de IA desenvolvam rapidamente suas próprias capacidades, possivelmente fugindo ao controle humano e aumentando o risco de perda de controle sobre modelos avançados.

Alexander Wang também descreveu a busca pelo RSI como “um dos caminhos mais perigosos para perda de controle sobre modelos avançados”.

Disputa sobre o ritmo da IA polariza a indústria tecnológica

A disputa sobre o ritmo de desenvolvimento da IA dividiu-se aproximadamente entre: o CEO da Anthropic, Dario Amodei, que pede a desaceleração do desenvolvimento de IA de ponta para que os mecanismos de segurança possam acompanhar; e o CEO da OpenAI, Sam Altman, o CEO da Microsoft, Satya Nadella, e Elon Musk, da SpaceX, que defendem um avanço prudente focado em segurança sem interromper o desenvolvimento.

Por outro lado, o presidente dos EUA, Donald Trump, opõe-se à desaceleração da corrida pela IA americana, temendo que a China fique à frente; o ex-conselheiro de IA de Trump, David Sacks, declara que as empresas devem gerenciar os riscos por conta própria, sem buscar imposições governamentais, e questiona os alertas de segurança da Anthropic.

O investidor Michael Burry questiona se os pedidos para desacelerar o desenvolvimento não seriam parcialmente movidos por interesses próprios, visto que isso poderia proteger as empresas de IA já estabelecidas da concorrência.