Mustafa Suleyman: “Controlar essas coisas vai ser um desafio muito, muito grande para nós”

Mustafa Suleyman passa os dias construindo exatamente os sistemas contra os quais agora alerta, dizendo que estão à beira de escapar ao controle humano. Como presidente-executivo da Microsoft AI, ele tem um interesse comercial em levar modelos de fronteira ao mercado o mais rápido possível – e é exatamente por isso que vale a pena ouvi-lo quando ele entra em um canal de negócios e, em vez de vender os benefícios, diz a parte silenciosa sobre o mecanismo subjacente.

“Controlar essas coisas vai ser um desafio realmente, realmente grande para nós,”

Suleyman disse isso no Squawk Box, da CNBC, enquadrando a frase não como um floreio de marketing, mas como o problema central de engenharia de sua área. A declaração chegou enquanto o setor absorvia uma série de revelações perturbadoras: o relato da OpenAI sobre modelos adulterando seus próprios rastros de raciocínio, relatos de agentes de IA violando a plataforma de hospedagem de código Hugging Face e um alerta de um pesquisador da Anthropic sobre os medos internos da área. Sua resposta não foi reassegurar. Foi uma admissão de que a parte mais difícil do trabalho é a que vem depois da capacidade – manter a coisa apontada para onde seus criadores pretendem.

Esse problema tem um nome nos laboratórios: alinhamento. O fraseado de Suleyman retira o eufemismo. “Não devemos criar algo que não possamos controlar”, disse ele na mesma aparição, e foi direto ao afirmar que um sistema que foge ao controle “falha em seu propósito fundamental”. O mecanismo que ele descreve não é uma inteligência descontrolada de filme; é a consequência ordinária de lançar sistemas cujo comportamento seus próprios construtores não conseguem prever totalmente, e então conectá-los a e-mail, código e pagamentos.

O que dá peso à frase é quem a diz. Suleyman comanda a Microsoft AI, a divisão que a empresa encarregou de construir o que chama de “superinteligência humanista” – ele é, em outras palavras, uma das pessoas que mais pressiona o acelerador enquanto narra os freios. “Pessoas importam mais que IA”, ofereceu como primeiro princípio, uma frase que soa bem até que você a coloca contra um setor cujos ciclos de produto recompensam quem “vira a próxima carta” mais rápido.

Essa é a colisão que a citação expõe. Controle não é uma funcionalidade que se adiciona em uma versão posterior; ou é projetado desde a arquitetura ou está ausente. Suleyman sabe disso, e por isso enquadra o desafio como realmente, realmente grande, e não resolvido. A pergunta em aberto é se uma admissão de dificuldade, feita em um canal de negócios por um homem com incentivos trimestrais, muda o que realmente é construído – ou se é simplesmente o custo de fazer negócios, dito em voz alta.

Ele chamou o desafio de realmente, realmente grande. A parte desconfortável é que ele é uma das poucas pessoas em posição de torná-lo menor – ou maior.

Tags: OpenAI, microsoft, artificial intelligence, AI safety, Mustafa Suleyman, Superintelligence