Rei Charles alerta os criadores da IA sobre o ‘perigo existencial’ da propria tecnologia

“Aqueles que criaram essas tecnologias estão agora, cada vez mais, alertando que a IA corre o risco de desenvolver capacidades mais sombrias — talvez até mesmo de tirar vidas.” A frase escolhida pelo Rei Charles não foi um alerta sobre hackers ou estados hostis. Foi um espelho, erguido diante das pessoas que constroem os sistemas, e o aviso contido nele foi um que ele atribuiu a elas.

Essa é a metade do discurso que a maior parte da cobertura deixou passar batido. A frase que viajou foi a mais suave das mesmas declarações — os “perigos existenciais de tais tecnologias caírem em mãos erradas.” Mãos erradas é um enquadramento confortável para quem está distribuindo a ferramenta. Coloca o perigo lá fora, em algum vilão que usa mal um instrumento neutro, e não no próprio instrumento ou nas empresas que correm para torná-lo mais capaz. Charles recusou-se a deixar por isso mesmo.

Em vez disso, ele apontou o risco de volta à sua origem. Os criadores são os que agora estão soando o alarme, disse ele — e então lançou uma pergunta à sala com um fio de navalha: “Certamente, precisamos de meios de controle suficientes antes que seja tarde demais?”

O peso dessa frase repousa sobre uma palavra. Controle é a única coisa que uma reunião como esta não pode realmente entregar. Ela não tem poder estatutário, não estabelece nenhum limite que uma empresa deva obedecer e não acarreta nenhuma penalidade por ignorá-lo. O que surgiu foi um acordo para buscar “princípios compartilhados” — uma frase que descreve uma aspiração, não um mecanismo. Os executivos, segundo todos os relatos, ficaram gratos pela conversa. Gratidão não é uma salvaguarda.

Há uma inversão institucional aqui que é fácil de perder sob a cerimônia. Um monarca não tem nenhuma alavanca sobre a Nvidia, a OpenAI, a Anthropic ou o Google DeepMind. Ele não pode licenciar um modelo, auditar um treinamento ou atrasar um lançamento. As pessoas que podem fazer essas coisas — legisladores, reguladores de concorrência, o ministro que de fato estava sentado na sala — não eram as que estavam convocando. Uma figura com autoridade simbólica e nenhum poder de fiscalização estava pedindo às pessoas com todo o poder livre de fiscalização do mundo que, por favor, se policiassem. Essa é, grosso modo, a configuração que a indústria preferiu o tempo todo.

Lido dessa forma, a cúpula fez um favor silencioso aos construtores. Ela permitiu que a história se tornasse “mãos erradas”, o enquadramento no qual a tecnologia é boa e apenas seu abuso é o problema. Ela converteu um aviso sobre capacidade inerente — a máquina desenvolvendo “capacidades mais sombrias” em sua própria trajetória — em um debate familiar sobre atores mal-intencionados. E envolveu tudo na legitimidade de uma Coroa que, por mais sincera que seja, não pode impor uma única linha das salvaguardas que pediu.

A reunião ocorreu na Dumfries House, a propriedade georgiana restaurada do Rei em Ayrshire, na Escócia. Na sala estavam Jensen Huang, presidente-executivo da Nvidia; Demis Hassabis, fundador do Google DeepMind; Sarah Friar, diretora financeira da OpenAI; Tino Cuéllar, diretor de assuntos globais da Anthropic; Kanishka Narayan, ministro de inteligência artificial do Reino Unido; e o padre Paolo Benanti, conselheiro do Vaticano em ética tecnológica. Charles fez questão de creditar também a promessa da IA — especialmente na medicina — e de levantar seu custo ambiental. Ele pediu aos convidados que mantivessem a tecnologia “firmemente a serviço da humanidade, da comunidade e do mundo natural.” Nenhum compromisso vinculante saiu da sala com eles.

Assim, as pessoas mais poderosas do setor ouviram um chefe de Estado descrever seu produto como capaz, por si só, de tirar vidas — e saíram com seu enquadramento preferido intacto e uma audiência real para mostrar. Os meios de controle que o Rei pediu permanecem exatamente onde estavam antes de ele falar: nas mãos a quem ele se dirigia, e de mais ninguém.

Tags: OpenAI, artificial intelligence, AI safety, AI risks, King Charles