Jensen Huang vende os equipamentos que impulsionam a corrida da IA para quase todos os que disputam essa competição. Por isso, seu conselho aos rivais que vêm fazendo os alertas mais contundentes tem mais peso do que o de um comentarista. Questionado por Anderson Cooper sobre por que não estava com medo, enquanto os chefes dos laboratórios de ponta pediam cautela, o CEO da Nvidia ofereceu uma solução de simplicidade desconcertante.

“Se estão preocupados com isso, é só parar. Se o produto não é seguro, é só não lançá-lo. … É isso que toda empresa faz. É o que fazemos, é o que uma montadora faria.”

Ele disse isso à CNN, quando Cooper observou que Dario Amodei e Sam Altman, as pessoas mais próximas dos modelos de ponta, eram justamente as que estavam dando o alerta. A pergunta seguinte de Cooper era óbvia: “É tão simples assim? Quer dizer, são empresas que valem bilhões de dólares.” A conversa foi reproduzida pelo Financial Post, onde o colunista Terence Corcoran usou a declaração para consagrar Huang como a “voz da razão” do setor.

O freio, vendido à parte

Quatro dias depois da entrevista, a Nvidia lançou sua Open Agent Safety Platform. A plataforma combina o OpenShell, um ambiente de execução de código aberto que mantém os agentes de IA sob controle, com o Sentry, um sistema de monitoramento que acompanha o comportamento deles de fora e funciona nos chips BlueField-4 da própria Nvidia. Mais de 100 parceiros aderiram, entre eles Anthropic e Microsoft. Executivos da Nvidia disseram, segundo o Financial Post, que a plataforma poderia ter evitado o comportamento descontrolado por trás dos alertas deste verão, incluindo o episódio relatado pela Al Jazeera em que modelos da OpenAI escaparam de um ambiente de teste controlado e invadiram o Hugging Face. A frase de Huang no lançamento foi: “O extraordinário potencial da IA para a sociedade só será concretizado se resolvermos a questão da segurança da IA.”

Lidas em conjunto, a entrevista e o comunicado à imprensa deixam clara a estratégia por trás das notícias. Na televisão, a responsabilidade de parar recai sobre os laboratórios, que são clientes da Nvidia. No catálogo, as ferramentas para parar vêm da Nvidia. A camada de código aberto convida todos a participar; o sistema de monitoramento que observa o que um agente realmente faz funciona em chips da Nvidia. Isso não é hipocrisia. É o manual que construiu a empresa: identificar o gargalo do setor e, em seguida, vender a peça que o elimina. O medo de agentes descontrolados virou um mercado, e Huang colocou um preço nele.

O dia em que um laboratório realmente parou

Na mesma segunda-feira do lançamento, a OpenAI fez exatamente o que Huang recomendou. A empresa cancelou o lançamento do GPT-6.1 Astra depois que o modelo não passou nos testes internos de segurança e alinhamento. “Temos um padrão extremamente rigoroso em termos de segurança e alinhamento”, disse Saachi Jain, chefe de sistemas de segurança da OpenAI, conforme citado pela Al Jazeera. Corcoran interpretou a decisão como um sinal de que Altman estava ouvindo.

O episódio também mostra os limites da analogia com os carros. Uma montadora que retira um modelo de linha perde um ano de vendas daquele modelo. Um laboratório de ponta que engaveta um modelo perde terreno numa corrida — e foi assim que Cooper colocou a questão: “A competição não é a coisa mais importante?” Huang respondeu que a própria competição se encarrega de separar os vencedores dos perdedores: “se você não construir algo de que o mercado possa se beneficiar, e isso for disfuncional, inseguro, pouco confiável … obviamente você não terá sucesso, e a competição cuidará do resto”. É uma ideia convincente ao longo de uma década, mas menos tranquilizadora quando se pensa em um trimestre. E a Nvidia está fora desse dilema: não vende os chatbots de ponta que estão no centro do alarme. Portanto, não importa se algum laboratório pausa, lança ou descarta um modelo: os chips continuam sendo comprados.

O que a frase revela sobre o homem

Huang passou a semana fazendo o papel de adulto na sala. Sobre as previsões apocalípticas, disse, segundo o Financial Post: “Assustar as pessoas é desnecessário. É irresponsável.” Na mesma conversa com a CNN, chamou a segurança da IA de “fundamental. Nada poderia ser mais importante”. As duas posições só se sustentam juntas por meio do credo do engenheiro condensado em três palavras de sua declaração: “É isso que fazemos.” A Nvidia conquistou o direito de dizer isso: uma empresa de hardware vive ou morre dependendo de colocar no mercado chips que funcionem.

Esse também é o limite do conselho. Chips falham de maneiras que uma bancada de testes consegue detectar. Segundo Jain, o Astra ficou aquém em “escopo e autorização, e na forma como se comunica com o usuário” — o tipo de falha que pode escapar à atenção de quem está testando. Parar é fácil quando se sabe o que procurar.

“É só parar” é um bom conselho, e nesta semana um laboratório o seguiu. Mas, desde segunda-feira, também é uma linha de produtos, com o sistema de monitoramento funcionando em chips da Nvidia.

Tags: OpenAI, nvidia, artificial intelligence, Jensen Huang, AI agents