CEO da OpenAI, Sam Altman traça três desfechos para a IA, dois já propostos em 2023

O CEO da OpenAI, Sam Altman, apresentou à equipe um mapa de como a corrida pela superinteligência poderia terminar — e o aspecto mais revelador é o quanto há de pouco inédito nele. Dos três cenários que expôs aos funcionários, dois se aproximam de ideias que a própria empresa colocou no papel anos atrás. Nenhum dos dois chegou a sair do papel. O terceiro, que foi parar nas manchetes, foi mencionado apenas para ser descartado.

Por trás dos rótulos, todas as opções respondem à mesma pergunta: quem terá o controle da capacidade computacional usada pelos modelos mais avançados. As declarações atribuídas a Altman também ajudam a explicar por que essa questão continua sendo deixada para depois.

O que Sam Altman disse à equipe da OpenAI sobre o futuro da IA

The Information publicou primeiro a notícia sobre a apresentação interna, citando pessoas familiarizadas com o assunto. Depois, The Decoder, Forbes e Latin Times também repercutiram o relato, baseado em fontes anônimas. A primeira opção é um órgão internacional inspirado na Agência Internacional de Energia Atômica (AIEA), que fiscalizaria os laboratórios de ponta e imporia padrões de segurança: inspecionaria sistemas, exigiria auditorias e monitoraria o uso de capacidade computacional e energia. Duas pessoas disseram ao The Information que Altman pareceu apoiar a ideia.

Leitura recomendadaChatGPT agora mostra você vestindo qualquer roupa antes da compra

A segunda opção foi chamada por ele de “plano Demis”, em referência a Demis Hassabis, cofundador do Google DeepMind, que sugeriu, cerca de uma década atrás, a criação de uma instituição de IA nos moldes do CERN. Na versão de Altman, os principais laboratórios se fundiriam em uma única entidade — ou trabalhariam sob seu guarda-chuva —, e essa entidade forneceria modelos a países dispostos a cooperar.

A terceira opção é o “plano Eliezer”, batizado em homenagem ao teórico de segurança em IA Eliezer Yudkowsky. Um desenvolvedor chegaria primeiro à IA capaz de se aprimorar sozinha e usaria o poder econômico resultante para privar todos os concorrentes de capacidade computacional; na formulação que repercutiu, a ideia seria “derreter as GPUs de todo mundo”. “Obviamente, acho essa opção péssima”, teria dito Altman, acrescentando que a incluiu por “completude”.

A OpenAI já colocou no papel boa parte desse cardápio em 2023

O órgão fiscalizador é o item mais antigo da lista. Em um texto assinado por Altman, pelo presidente da OpenAI, Greg Brockman, e pelo então cientista-chefe Ilya Sutskever, a empresa argumentou que o mundo provavelmente “acabaria precisando de algo como uma AIEA para iniciativas de superinteligência”: uma autoridade capaz de “inspecionar sistemas, exigir auditorias” e restringir a implementação quando fossem ultrapassados determinados limites de capacidade ou de poder computacional.

O mesmo texto esboçou outras duas possibilidades. Segundo a publicação, governos importantes “poderiam criar um projeto do qual muitas iniciativas atuais passariam a fazer parte”, algo muito parecido com a fusão que Altman agora atribui a Hassabis. Ou o setor “poderia chegar a um acordo coletivo” para que “o ritmo de crescimento da capacidade da IA na fronteira fosse limitado a uma determinada taxa anual”.

Essa última proposta é um limite de velocidade. Segundo o The Decoder, Altman reclamou internamente que há poucas propostas viáveis para impor um “limite de velocidade” ao desenvolvimento da IA. A empresa dele publicou uma. O que nunca criou foi alguém com poder para fazê-la valer.

Por que o órgão fiscalizador continua no papel: a OpenAI diz que não pode desacelerar

A explicação foi dada na mesma reunião. Altman teria dito à equipe que os dois primeiros planos exigem uma coordenação intensa e que a OpenAI não pode se dar ao luxo de ceder terreno agora, enquanto ela e a Anthropic se preparam para abrir capital. O Crypto Briefing explicitou a lógica dos investidores: empresas que se preparam para entrar na bolsa reforçam sua vantagem competitiva; não a entregam a um consórcio.

Uma AIEA para a IA também exigiria que Washington e Pequim aceitassem a presença de inspetores em seus laboratórios mais sensíveis. Por enquanto, observa a Forbes, até mesmo uma proposta dos EUA para que os dois países avisem um ao outro sobre incidentes perigosos envolvendo IA continua sendo apenas um esboço, não um acordo.

O que os laboratórios estão criando, em vez disso, é uma FINRA, não uma AIEA

O projeto de governança que está de fato em andamento não corresponde a nenhuma das três opções de Altman. OpenAI, Google e Anthropic trabalham na criação de um grupo de autorregulação, a Standards Authority for Frontier AI, inspirado na FINRA, entidade privada que supervisiona as corretoras dos EUA. A Latin Times descreve uma estrutura para testes antes do lançamento, comunicação de incidentes e credenciamento de auditores, sem poder para impor regras; além disso, os três laboratórios ainda discordam sobre quem deveria testar os novos modelos. Mark Zuckerberg, da Meta, e Jensen Huang, da Nvidia, afirmam que regras desse tipo servem principalmente para proteger as empresas já estabelecidas. Nos EUA, uma ação antitruste já alega que a coordenação entre os laboratórios em torno da segurança equivale à formação de um cartel.

Os rótulos também merecem ser revistos. A imagem original de Yudkowsky — “queimar todas as GPUs” — era um experimento mental sobre a dimensão da medida que um sistema alinhado precisaria tomar para impedir uma corrida irresponsável; ele escreveu que não gostaria que isso fosse feito de verdade. O “plano Eliezer” de Altman transforma esse freio de emergência em uma vitória monopolista. Segundo o relato do The Decoder sobre a reportagem, uma fonte disse que a fala foi interpretada como uma provocação a um concorrente, dado o vínculo de Yudkowsky com a Anthropic.

Segundo o The Information, a OpenAI pretende decidir em até um ano qual caminho seguirá. O órgão de padrões do setor pretende iniciar suas atividades no fim de 2026 ou no começo de 2027.

Até que a OpenAI faça sua escolha, continua avançando pela única estrada que não estava na lista dele: a própria corrida.

Tags: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky

Conteúdo similar

Anthropic revela dado que mostra onde estamos com IA: Claude lidera 26% da própria pesquisa

Microsoft chamou a raspagem de dados por IA de “o maior roubo de trabalho da história” em arquivos internos

Sam Altman, chefe da OpenAI, na ONU: “A IA deve ser construída para as pessoas, não apenas para acelerar as máquinas por si mesmas…”

Hugging Face aposta que um pato de 399 dólares vai provar que a IA física é para o lar, não para o laboratório

HarperCollins e Simon & Schuster escrevem sinopses de livros com ChatGPT

2 milhões de tokens: por que o Google teve que reconstruir o Gemini 3.5 Pro do zero