OpenAI e Anthropic querem frear a IA — e isso vira um fosso a seu favor

O que chama a atenção no entusiasmo repentino em desacelerar a inteligência artificial não é o fato de que as pessoas que a estão construindo agora querem freios. É que os freios que elas descrevem são apenas aqueles que elas podem pagar confortavelmente. Quando os líderes dos laboratórios de IA mais valiosos concordam, quase em uníssono, que o campo está avançando rápido demais, o argumento de segurança é real — e também o é o argumento de negócios que fica silenciosamente por baixo.

O gatilho foi um apelo de Dario Amodei, da Anthropic, para “acelerar a fronteira”: desacelerar o ritmo em que as capacidades dos modelos melhoram, instalar avaliadores independentes dentro dos laboratórios e fazer com que os principais atores dos países democráticos concordem com padrões comuns de segurança. Ele enquadrou a reação negativa do público à IA como, em suas palavras, uma crise de confiança. Em uma janela curta, Sam Altman disse que concordava e que a OpenAI já estava discutindo exatamente isso; Elon Musk ofereceu um endosso de duas palavras: “Dario está certo”. A cobertura tratou isso como uma consciência tardia chegando de uma só vez.

Leia o mesmo plano como analista, em vez de oficial de segurança, e uma segunda imagem aparece. Revisores terceirizados incorporados, testes de alinhamento certificados, estruturas de risco publicadas e relatórios de incidentes não são apenas salvaguardas; são custos fixos. E custos fixos são a arma competitiva mais confiável que uma grande empresa possui, porque eles recaem igualmente sobre todos em dólares e sobre ninguém igualmente em dor.

Considere a aritmética. Os maiores provedores de infraestrutura de nuvem e IA dos EUA se comprometeram com algo na ordem de 660 a 690 bilhões de dólares em gastos de capital para o próximo ano, com a Amazon sozinha perto de 200 bilhões e Alphabet, Meta e Microsoft cada uma nas centenas de bilhões ou se aproximando disso. Contra balanços patrimoniais como esses, um regime de conformidade — uma equipe de avaliadores incorporados, uma estrutura anual de segurança, uma penalidade que a Califórnia limita a um milhão de dólares por violação — é um erro de arredondamento. Para uma startup tentando alcançar a fronteira, é toda a pista de decolagem.

Isso não é mais hipotético. O SB 53 da Califórnia já define um “grande desenvolvedor de fronteira” por dois critérios: modelos treinados acima de um limite de computação muito alto e mais de meio bilhão de dólares em receita. Essas empresas devem publicar estruturas de segurança e relatar incidentes críticos em prazos apertados. Na Europa, o Artigo 55 do AI Act exige que provedores dos modelos de propósito geral mais capazes realizem testes adversariais, mitiguem riscos sistêmicos e relatem incidentes graves. O piso está sendo derramado; a questão é quem é alto o suficiente para ficar em cima dele sem notar.

O sinal mais claro é quem não está pedindo freios. O plano nunca nomeia seus perdedores naturais, mas eles são fáceis de identificar: os laboratórios cujo modelo inteiro é dar os pesos de graça — Meta, a francesa Mistral, a chinesa DeepSeek e a Alibaba. Como uma análise dissidente colocou, esses são “os quatro nomes que o ensaio nunca imprime”, os criadores dos modelos gratuitos que um cliente pagante poderia baixar em vez de alugar uma API. Você não pode certificar o alinhamento de um modelo que qualquer um pode modificar em uma tarde, então um regime de padrões voltado para a fronteira atinge mais duramente os pesos abertos. E o campo aberto está vencendo exatamente os usuários que os incumbentes prefeririam manter: um modelo aberto chinês, Qwen, conta downloads na casa dos bilhões, enquanto a Llama, da Meta, conta na casa das centenas de milhões.

Nada disso é novo. É o movimento mais antigo em qualquer indústria regulamentada — o jogador estabelecido dá as boas-vindas ao livro de regras que pode pagar, porque um custo que é trivial em seus livros é uma parede no do rival. Economistas têm um nome simples para isso, captura regulatória, e não requer má-fé. Um argumento de segurança pode ser totalmente sincero e ainda assim funcionar como uma barreira à entrada. Aqui, ambas as coisas são verdadeiras ao mesmo tempo.

Para a Europa, os riscos são mais agudos do que parecem. O único desafiante de fronteira crível do continente, a Mistral, é precisamente um laboratório de pesos abertos, e seus clientes espanhóis e europeus em geral — as startups que constroem produtos com modelos baratos e modificáveis — são os que mais perdem se o piso global de conformidade for escrito em torno de quatro incumbentes americanos. Um livro de regras desenhado em São Francisco e ratificado em Bruxelas pode proteger o público e puxar a escada para cima atrás dos líderes ao mesmo tempo.

Então, dê as boas-vindas à virada da segurança: os riscos são reais e os avaliadores estão atrasados. Mas observe o que vem a seguir. Se as regras finais se estabelecerem exatamente onde os quatro gigantes podem pagar e ninguém menor puder, a desaceleração não terá acelerado a fronteira, mas sim a terá cercado.

Tags: OpenAI, Anthropic, AI regulation, Mistral, open-weight models