Demis Hassabis sobre quem paga a segurança da IA: “O financiamento precisaria ser substancial e vir principalmente da indústria”

Demis Hassabis passou o ano defendendo que os sistemas de IA mais poderosos deveriam ser avaliados antes de chegarem ao público, por um órgão independente inspirado na agência que fiscaliza os corretores de Wall Street. A questão mais difícil não é se esse árbitro deveria existir. É quem paga por ele — e em uma única frase, o chefe do Google DeepMind respondeu também a essa pergunta.

“O financiamento precisaria ser substancial e provavelmente vir em grande parte da indústria, para atrair talentos técnicos de nível mundial e fornecer os recursos computacionais necessários para testes em larga escala”,

Hassabis escreveu essa linha no ensaio que delineia sua proposta, citado pelo Malay Mail. Lida rapidamente, parece responsabilidade: guarda-corpos custam dinheiro, e as empresas que constroem a tecnologia deveriam arcar com a conta, em vez de deixar o público financiar a limpeza. Lida como mecanismo, é a linha estrutural de todo o plano — a que decide cujos interesses o árbitro acaba protegendo.

A tensão está dentro da frase. Hassabis quer que o órgão seja independente. Ele também quer que seja financiado, “em grande parte”, pela própria indústria que julgaria. Esses dois objetivos puxam em direções opostas, e a história do modelo que ele escolheu mostra qual tende a vencer. A Autoridade Reguladora da Indústria Financeira, seu modelo, é paga pelas corretoras que supervisiona. A senadora Elizabeth Warren argumenta há anos que a FINRA age “mais no interesse das corretoras que pagam suas contas do que dos investidores individuais que deveria ajudar a proteger”.

A objeção não é marginal. Nader Henein, analista vice-presidente da Gartner, chama a autorregulação simplesmente de “inviável”, porque a maioria dos fornecedores não tem capacidade para isso e o arranjo “necessariamente” gera conflitos de interesse. O analista independente Carmi Levy foi além, descrevendo o plano como “um roteiro egoísta para uma indústria determinada a correr” à frente, independentemente do dano. Até vozes simpáticas querem uma barreira: Yoshua Bengio diz que entende o pragmatismo, mas insiste em “um roteiro claro e preciso para a transição de um modelo voluntário para um obrigatório”.

Nada disso faz de Hassabis um ator de má-fé. Ele comanda o laboratório por trás do AlphaFold, o sistema que previu as formas das proteínas e mudou como a biologia é feita — um histórico que dá peso real aos seus avisos sobre capacidades de fronteira. É exatamente isso que torna a frase digna de reflexão. A voz técnica mais credível na sala também é a que propõe o árbitro, redige suas regras e organiza seu orçamento com as mesmas empresas que fariam o exame. Submissão voluntária, uma janela curta de revisão antes do lançamento, dinheiro da indústria: cada concessão é razoável por si só, e juntas descrevem um órgão com o qual os laboratórios poderiam conviver confortavelmente.

Um regime de segurança é tão independente quanto seu orçamento. A frase que decidirá se este protege o público ou os laboratórios não é a sobre testar modelos de fronteira. É a silenciosa sobre quem assina os cheques.

Tags: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI