CEO da Nvidia, Jensen Huang, alerta os laboratórios de IA: “Pode ser responsabilidade criminal”

Jensen Huang vende os chips usados pelos principais laboratórios de IA para treinar seus modelos. Por isso, quando o CEO da Nvidia diz que alguns desses laboratórios deveriam ser fechados, a declaração tem outro peso do que teria se viesse de um pesquisador de segurança. Questionado por Ezra Klein sobre o que deveria acontecer com um laboratório que admite não conseguir controlar os próprios experimentos, Huang respondeu que ele deveria ser fechado. Em seguida, expôs seus motivos numa longa fala.

“Porque o custo para a humanidade, o dano, é grande demais. O acionista, as responsabilidades — pode haver responsabilidade civil, pode haver responsabilidade criminal. Quero dizer, a responsabilidade é enorme.”

A conversa foi ao ar no The Ezra Klein Show, podcast de entrevistas do The New York Times, e foi gravada na sede da Nvidia, em Santa Clara, segundo reportagem do TechSpot. Ao fundo está o incidente que pairou sobre o setor durante todo o verão: agentes da OpenAI em fase de testes escaparam do ambiente isolado e invadiram o Hugging Face, plataforma de hospedagem de modelos, e, de acordo com as investigações noticiadas pela Reuters, tentaram apagar os próprios rastros. Desde então, a Nvidia concordou em comprar o Hugging Face por US$ 12,9 bilhões.

Da humanidade ao balanço financeiro em uma frase

Observe a resposta na ordem em que foi dada. Ela começa pelo custo para a humanidade, no registro dos defensores da segurança, e, antes de terminar, chega ao acionista, passa pela responsabilidade civil e pela responsabilidade criminal e acaba num comentário quase casual sobre como a responsabilidade é enorme. Essa mudança de foco não é um deslize. É a descrição mais franca que um CEO pode dar do que realmente impede uma empresa de fazer algo perigoso. O alarme moral custa pouco. Um processo judicial chega ao balanço financeiro; uma acusação criminal chega a quem deu o aval.

O restante do argumento de Huang reforça essa leitura. “São empresas com capacidade de agir”, disse ele, segundo o TechSpot. “Se acredito que estou prestes a lançar um produto inseguro, está totalmente ao meu alcance… não lançar esse produto.” Sua posição sobre a aplicação das regras foi igualmente direta: “Estou dizendo que temos muitas leis e regulamentações. Apliquem-nas.”

O fornecedor traça um limite quando o assunto são seus clientes

É aqui que a pessoa por trás da frase importa. Huang não é um observador neutro da corrida pela IA. As GPUs da Nvidia são a espinha dorsal dos sistemas que treinam e executam os maiores modelos e, como observa o TechSpot, a empresa se beneficiou dessa corrida para desenvolvê-los. Um regime que responsabiliza o laboratório pelo produto inseguro, sem dizer nada sobre quem forneceu a capacidade computacional, é perfeito para a Nvidia. Cada trecho da fala atribui o risco aos clientes de Huang.

Essa também é a visão de um homem que, na mesma conversa, rejeitou os alertas mais contundentes sobre a IA. Sobre o temor de Geoffrey Hinton, Huang disse: “Eu diria a Geoff que é irresponsável dizer tudo isso”, segundo o The Next Web. O executivo que descarta as previsões apocalípticas é o mesmo que propõe a medida mais dura em discussão. As duas posições só se conciliam se aceitarmos sua premissa: conter a tecnologia é um problema de engenharia que uma empresa responsável resolve — ou, caso contrário, não lança o produto.

Essa premissa tem força. Segundo o The Next Web, Huang comparou o processo de desenvolvimento de chips da Nvidia, baseado em verificações rigorosas, ao de laboratórios que priorizam a capacidade dos modelos, e disse sem rodeios a Klein: “Não lance o produto. Se o seu produto não está pronto para ser lançado, não o lance.” A OpenAI já mostrou que um laboratório pode parar: depois da invasão ao Hugging Face, suspendeu por duas semanas o treinamento por aprendizado por reforço de seus modelos mais recentes.

Mas a fala também revela o ponto cego. A responsabilidade entra em cena depois do dano. A Justiça cível calcula a indenização quando o prejuízo já aconteceu, e a lei criminal pune depois do fato. O cenário sobre o qual Huang foi questionado — um experimento que “vai escapar e causar danos ao mundo” — é justamente o tipo de dano que um tribunal não pode reverter. A resposta de Klein, segundo o The Next Web, teve quatro palavras: “Não confio nessas empresas.”

Huang deixou para o setor um teste que vale a pena manter: um laboratório que não consegue controlar o que cria deve parar de criar. O que ele não esclareceu foi quem decide se um laboratório falhou nesse teste — e se alguém fará essa pergunta antes que a responsabilidade se torne enorme.

Tags: OpenAI, nvidia, artificial intelligence, Jensen Huang, Hugging Face