IA

GPT-6 Astra barrou os usuários pagantes, e o motivo são as próprias regras de segurança da OpenAI

Adrian Kessler

O pedido de desculpas chegou mais rápido do que o acesso. A OpenAI lançou seu modelo mais capaz até hoje, chamou-o de um marco, e em menos de um dia seu presidente-executivo estava no X dizendo às pessoas que pagam todo mês pelo ChatGPT que ele lamentava que elas ainda não pudessem acessá-lo. “Bagunçado”, ele chamou o lançamento. A palavra dizia muito.

O que ela encobriu é que nada disso foi um acidente. A OpenAI não ficou sem servidores. Não tropeçou em um bug. Ela decidiu, deliberadamente, que o modelo era perigoso demais para entregar a seus clientes pagantes no dia do lançamento — e depois pediu desculpas pelo atraso que ela mesma escolheu. Essa decisão, não a correria estilo apagão que a palavra “bagunçado” sugere, é a verdadeira história.

A razão está no próprio manual de segurança da OpenAI. A empresa afirma que a GPT-6 Astra é o primeiro modelo a ultrapassar o limite “Crítico” de segurança cibernética em seu Framework de Preparação, a linha interna além da qual as capacidades de um modelo acionam controles mais rigorosos. Em termos simples: com as ferramentas certas, a Astra pode encontrar falhas de segurança até então desconhecidas e descobrir como explorá-las em sistemas protegidos, em grande parte por conta própria. Durante a avaliação, ela descobriu e usou vulnerabilidades que ninguém havia catalogado, sem que um humano guiasse cada passo. Um modelo que faz isso não é algo que se liga para todo assinante pagante de uma vez.

Então a OpenAI inverteu sua ordem habitual. O primeiro grupo a receber a Astra não foi o seu nível de maior pagamento, mas um conjunto de empresas no Daybreak, seu programa baseado em aplicação para defensores de segurança cibernética. A versão pública recusa as tarefas mais afiadas — ela não escreve provas de conceito de exploração — enquanto defensores verificados estão na fila para uma versão menos restrita depois. Além disso, assinantes Pro, Business e Enterprise, junto com clientes de API e nuvem na Azure e AWS, foram informados de que o acesso chegaria nos próximos dias. Os usuários Pro, que normalmente recebem novos lançamentos primeiro, se viram no final da fila.

Este é o segundo lançamento emblemático consecutivo que a OpenAI teve que recuar, e a empresa sabe disso. Altman já disse que a equipe “errou totalmente no lançamento” da GPT-5. Agora o script se repete. “Quando erramos, tentamos consertar”, escreveu ele, prometendo acesso amplo em um futuro próximo e ponderando que estava esperançoso de que os usuários pagantes pudessem acessar durante o fim de semana, mas não podia prometer ainda. O gesto de consertar é um reset acumulado — um reset de uso creditado para cada dia que um assinante pagante fica sem a Astra. É uma compensação, e também uma admissão de que a empresa vendeu acesso que não poderia entregar no prazo.

O verdadeiro acerto de contas aqui não é sobre resets. É sobre o que a OpenAI se tornou: a guardiã de uma ferramenta que ela classifica como genuinamente perigosa, decidindo quais de seus clientes são confiáveis para receber a versão carregada e quais recebem a versão segura. Greg Brockman sugeriu que a Astra pode ser razoavelmente interpretada como uma forma de inteligência artificial geral; o cientista-chefe Jakub Pachocki disse que a empresa “não aceitará degradação em nossa capacidade de monitorar o alinhamento do modelo além de um certo nível”. Essas não são frases de marketing. São a empresa dizendo em voz alta que seu próprio produto está começando a superar sua capacidade de supervisioná-lo. O pedido de desculpas é direcionado à reclamação de faturamento. O custo mais duro é a credibilidade: o modelo mais capaz do mercado, vendido por uma empresa que não pode prometer às pessoas que pagam por ele uma data em que possam usá-lo.

Para todos os outros, a lição é menor e mais afiada do que um pedido de desculpas. A OpenAI construiu uma máquina que decidiu que seus próprios clientes não poderiam receber no primeiro dia — e a fila à frente deles é composta por pessoas cujo trabalho é invadir sistemas.

Tags: , , , ,

Discussão

Há 0 comentários.