IA

OpenAI declara a era da AGI. O benchmark citado aponta 37 pontos abaixo

Adrian Kessler

A postagem de Jensen Huang no X resumiu-se a uma frase e a um parabéns: “Do ChatGPT ao o1 e à Astra em 4 anos, a AGI chegou. Parabéns à equipe da OpenAI.” Ele a enviou em 6 de setembro. Três dias antes, Greg Brockman, presidente da OpenAI, havia usado um enquadramento quase idêntico com a imprensa: “Bem-vindos à era da AGI.” As declarações vieram próximas, de dois homens com interesses complementares, e foram recebidas em grande parte como confirmação.

O benchmark por trás da afirmação era o ARC-AGI-3. A OpenAI disse que a Astra, seu novo modelo frontier lançado sob a designação GPT-6, obteve 99,9% no ARC-AGI-3 e 98% no FrontierMath Tier 4. Pontuações nesse nível, em condições padrão, representariam uma descontinuidade real — um modelo que não apenas performa bem, mas alcança um território que benchmarks anteriores tratavam como aspiracional. A organização que construiu o ARC-AGI-3 publicou uma pontuação vinda de sua plataforma de avaliação padrão: 62,7%.

Trinta e sete pontos percentuais separam esses dois números. Ambos vêm de avaliações reais. A plataforma interna da OpenAI e a plataforma de referência dos criadores do benchmark não são o mesmo protocolo, e o mesmo modelo produz pontuações diferentes em cada uma. O que a organização do ARC-AGI-3 usa como sua condição de referência — aquela que considera válida para comparar modelos em todo o campo — produziu 62,7%. A configuração interna da OpenAI produziu 99,9%. A diferença entre esses números é a diferença entre um resultado forte de benchmark e uma declaração de chegada.

A venda de chips por trás do parabéns pela AGI

Astra foi treinada em chips da NVIDIA. Huang vende chips da NVIDIA. Quando um CEO parabeniza publicamente um cliente por ter ultrapassado um limiar histórico — um limiar que torna o hardware usado para construir aquele produto a infraestrutura definidora do que vem a seguir — o anúncio é, estruturalmente, uma afirmação comercial. Não uma conspiração. Uma realidade estrutural: o conflito de interesses era visível, o enquadramento era sobre chegada em vez de desempenho, e a maior parte da cobertura recebeu ambos sem comentários.

O mercado de chips para infraestrutura de IA se move por narrativa. Se a Astra é AGI, então o que treinou a Astra se torna o hardware do mundo pós-AGI — e as empresas comprando chips para a próxima rodada de treinamento estarão comprando em direção àquele benchmark. Os parabéns de Huang foram, nesse sentido específico, também uma declaração de produto. A declaração dependia de um número que a própria organização do benchmark mediu de forma diferente.

O que a verificação independente mostra — e o que não mostra

Até o momento da publicação, a Astra não aparece no Artificial Analysis Intelligence Index nem nos rankings do Arena.ai — os dois sistemas de avaliação independente mais acompanhados para modelos frontier. A verificação independente para lançamentos frontier importantes geralmente chega em dias. A ausência aqui não é evidência de desempenho ruim. Significa que a validação externa que normalmente acompanharia uma afirmação dessa magnitude ainda não se materializou.

Os 62,7% dos criadores do benchmark não são uma refutação. Uma pontuação nesse nível no ARC-AGI-3 — um teste projetado para resistir aos truques de otimização que inflaram benchmarks anteriores — é genuinamente forte. Os predecessores do ARC-AGI-3 foram saturados: modelos absorveram dados de treinamento semelhantes às perguntas do teste e empurraram os números para cima sem melhorar no raciocínio novo. O ARC-AGI-3 mudou o design das perguntas para exigir abstração em vez de recuperação de padrões. Sessenta e dois vírgula sete por cento naquele teste, sob a plataforma de referência, está muito acima de qualquer coisa que existia há dois anos.

Os pesquisadores que levantaram objeções foram precisos sobre isso. A capacidade do modelo não era o alvo deles. O salto do desempenho para a declaração era. “Pontua bem nesses benchmarks” e “a AGI chegou” exigem um passo intermediário: uma definição estável e acordada de AGI contra a qual a chegada possa ser medida. Não existe tal definição em todo o campo. A OpenAI tem uma definição interna. Pela própria definição da OpenAI, a Astra pode se qualificar. Mas uma empresa medindo seu produto contra uma definição que ela mesma escreveu é um tipo diferente de resultado daquele medido por um padrão externo.

A frase que não veio com uma definição

A postagem de Huang não tinha ressalvas. “A AGI chegou” é uma declaração — não “por algumas medidas” ou “sob certas definições”, mas uma chegada limpa. A progressão de quatro anos que ele nomeou — ChatGPT, o1, Astra — é real como uma trajetória de capacidade. Cada modelo na sequência estendeu o que era possível. Enquadrar essa sequência como uma jornada com um ponto final, e anunciar o ponto final, faz uma afirmação diferente: diz que a chegada é distinguível da jornada, que existe uma linha em vez de uma inclinação, e que a Astra a cruzou.

O número do benchmark por trás dessa afirmação era 62,7%. As pessoas que construíram o teste o publicaram. A questão que ele levanta — se a declaração de AGI é uma medição ou um movimento de mercado — estava lá em 6 de setembro. A cobertura, em grande parte, respondeu sem perguntar.

Tags: , , , , ,

Discussão

Há 0 comentários.