IA

CEO da OpenAI, Sam Altman diz que fala sobre RAM foi tirada de contexto; a transcrição dá razão pela metade

Ele estava respondendo a uma pergunta sobre inferência de IA local, não sobre PCs para jogos. Seu argumento ainda coloca a memória escassa nos centros de dados.
Adrian Kessler
Adicione-nos no Google

Sam Altman quer deixar registrado que está do lado de quem compra memória para o próprio computador. O CEO da OpenAI afirma que uma fala sobre PCs domésticos guardarem a escassa DRAM do mundo foi tirada de contexto e que há muito tempo defende que a indústria produza mais. A conversa na íntegra mostra que ele tem razão pela metade. O contexto muda o que ele quis dizer. Mas não muda para onde seu argumento direciona os chips enquanto durar a escassez.

Ele se defendeu no X depois de dias sendo alvo de piadas — e entrou na brincadeira. Um usuário pediu que ele mudasse o nome da conta para “Ram Altman”. Ele respondeu “ok yeah” e alterou o nome exibido. Depois, explicou: “eu realmente quero que o mundo tenha memória de sobra e que as pessoas possam colocar o quanto quiserem nos computadores delas, e é irritante pra cacete que isso tenha sido tirado de contexto”. E acrescentou: “Há muito tempo defendo que o mundo aumente a produção de memória”.

O que Altman realmente disse no Cheeky Pint

A fala vem do Cheeky Pint, podcast apresentado pelo cofundador da Stripe, John Collison, que publica transcrições completas. O trecho diz: “Mas, do ponto de vista da alocação global, na verdade é péssimo que todo mundo tenha um monte da oferta limitada de DRAM do mundo parada no próprio computador. E sendo usada […] 5% do tempo. Se você está tentando lidar com esse ambiente de oferta extremamente restrita, quer maximizar a utilização na nuvem.”

A maioria das reportagens começou a citação por esse trecho. Mas o que veio antes também importa. Collison perguntou por que os preços altos da memória não estavam atraindo novos fabricantes para o mercado. Altman respondeu que “a mão invisível está falhando neste momento”. Durante décadas, disse ele, um fabricante de DRAM “investiria US$ 20 bilhões em despesas de capital para produzir US$ 19 bilhões” e atravessaria períodos de alta e baixa. Agora que cada empresa deve faturar “algo como US$ 100 bilhões em fluxo de caixa livre em um ano”, segundo sua estimativa, “todas se lembram do passado. De quantas vezes quase foram à falência por construir fábricas demais”. Só então ele falou de quem quer fazer inferência local: rodar modelos de IA de código aberto nas próprias máquinas, supondo que isso alivie a pressão sobre os data centers. A fala de que isso seria “péssimo” foi a resposta dele a essa suposição.

Mais adiante, na mesma conversa, ele diz que o custo da energia e dos chips “deveria cair”, que “ficarei muito triste se não cair” e que “a oferta precisa aumentar muito”. Nesse ponto específico, a defesa se sustenta. Ele falava de inferência de IA em casa, não de PCs para jogos ou edição de vídeo, e pediu mais produção no mesmo episódio.

Onde o contexto deixa de ajudar

Em um mercado com oferta insuficiente, discutir alocação é discutir quem fica com os chips. “Maximizar a utilização na nuvem” significa direcioná-los aos data centers, e a OpenAI é uma das maiores compradoras desse mercado. Samsung e SK Hynix assinaram cartas de intenção para fornecer memória ao projeto de infraestrutura Stargate da OpenAI, um compromisso que o The Register estimou em cerca de 900 mil wafers de DRAM iniciados por mês. As cartas não são vinculantes, mas mostram quanto do mercado a OpenAI pretende comprar. O Notebookcheck observou que o argumento também combina com o modelo de negócios da OpenAI: modelos fechados, executados em seus data centers e vendidos por assinatura.

Nem mesmo a declaração mais clara do episódio em defesa da abundância é de Altman. A ideia de um “excesso de capacidade computacional” em que “qualquer pessoa que queira um computador, por qualquer motivo, pode ter um” é o resumo que Collison faz da posição dele. Altman não respondeu diretamente. Em vez disso, falou em termos de data centers, mencionando o custo de cinco anos de um gigawatt de capacidade, que estimou em cerca de US$ 70 bilhões e gostaria de ver cair para 20.

O número de 5% não tem fonte

O número que deu início à polêmica não vem acompanhado de nenhuma medição. O PC Games Hardware observou que ele se refere ao tempo em que a memória está ocupada, não à quantidade de memória de que uma máquina precisa: o sistema operacional mantém dados em cache, e os programas ocupam mais memória em momentos de pico. Um gigabyte que fica ocioso durante a noite ainda precisa estar disponível quando um jogo ou modelo local é carregado. As pessoas também rodam IA no próprio hardware por motivos que um índice de utilização não consegue captar, como privacidade, controle sobre um modelo que um fornecedor não pode alterar sem aviso e um custo único, em vez de uma assinatura.

Elon Musk também entrou na conversa no X, escrevendo: “As pessoas também merecem ter sua RAM!”. Como apontou o PC Games Hardware, o próprio empreendimento de IA dele opera o data center Colossus, em Memphis.

A escassez já aparece nos preços das lojas. Em 2 de novembro, a Raspberry Pi aumentou em US$ 80 o preço do Raspberry Pi 5 de 16 GB, que passou a custar US$ 385, citando “a falta de fornecedores alternativos de DRAM de 16 GB”. O PC Gamer, cuja reportagem levou a troca de mensagens no X a um público amplo, escreveu que entusiastas de tecnologia e gamers foram “impedidos de comprar novos equipamentos” pela OpenAI e pelo restante do setor de IA. O episódio do Cheeky Pint foi publicado em 29 de outubro, e as respostas de Altman no X vieram nos primeiros dias de novembro.

A solução de Altman para tudo isso é construir mais fábricas. Segundo ele próprio, as empresas que teriam de construí-las se lembram de quase terem ido à falência da última vez que alguém lhes disse que aquele ciclo de alta era diferente. Até que mudem de ideia, a memória já está sendo alocada da forma que ele descreveu: para quem paga mais e mantém os chips mais ocupados — e esse comprador é um data center, não um computador de mesa.

Tags: , , , ,

Adicione-nos no Google

Discussão

Há 0 comentários.