Nate Soares, o pesquisador de IA que parou de poupar para a aposentadoria

Nate Soares

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Nascimento	1989
Ocupação	Pesquisador de inteligência artificial

Nate Soares ainda tem a conta de aposentadoria que abriu no Google. Faz cerca de dez anos que não deposita dinheiro nela. Não é por descuido: o presidente do Machine Intelligence Research Institute acredita que uma inteligência artificial super-humana provavelmente matará todo mundo antes que ele fique velho o bastante para usar o dinheiro. Hoje, diz isso em público com a calma impassível de um engenheiro lendo o resultado de um teste. “Não sou exatamente o tipo que teme um apocalipse de empregos causado pela IA”, disse a um entrevistador neste outono. “Sou do tipo que acha que a IA vai matar todos os humanos.” A pergunta que move seu trabalho é aquela que ele se recusa a dar por encerrada: será que alguém que espera o pior ainda consegue convencer as pessoas que desenvolvem essa tecnologia a parar?

O que torna difícil descartá-lo é sua trajetória. Soares não é um filósofo que chegou tarde à computação. Estudou ciência da computação e economia na George Washington University e depois desenvolveu software para o governo federal: primeiro, como pesquisador associado do National Institute of Standards and Technology; depois, como contratado do Department of Defense, criando ferramentas para a National Defense University. Em seguida, vieram Microsoft e Google, justamente o tipo de empresa que hoje ele pede aos governos que restrinjam.

Em 2014, aos vinte e poucos anos (nasceu em 1989), deixou o Google para trabalhar em uma pequena organização sem fins lucrativos em Berkeley, na Califórnia, que havia passado anos fazendo uma pergunta que a maior parte do setor considerava ficção científica: como fazer uma mente mais inteligente que a sua agir de acordo com o que você pretende? Como pesquisador do MIRI, tornou-se o principal autor do plano de pesquisa técnica do instituto, escrito com Benya Fallenstein e publicado mais tarde como “Agent Foundations for Aligning Machine Intelligence with Human Interests”. Em janeiro de 2015, esse plano foi citado em “Research Priorities for Robust and Beneficial Artificial Intelligence”, artigo de Stuart Russell, Daniel Dewey e Max Tegmark que acompanhou uma carta aberta pedindo aos pesquisadores de IA que levassem tão a sério os benefícios sociais de seus sistemas quanto sua capacidade bruta.

Desse mesmo período veio o artigo que forneceu parte do vocabulário de sua área. “Corrigibility”, escrito com Fallenstein, Eliezer Yudkowsky e Stuart Armstrong e apresentado em um workshop da AAAI no início de 2015, tratava de um problema que parece simples, mas não é: um sistema capaz o bastante para ser útil também pode ser capaz o bastante para resistir a correções ou a ser desligado. Soares e Yudkowsky afirmam que o artigo introduziu a expressão “AI alignment problem”, hoje usada pelos próprios laboratórios cujos planos eles contestam.

Mais tarde, em 2015, Soares sucedeu Luke Muehlhauser como diretor-executivo do MIRI, cargo que ocupou por oito anos. Sob sua liderança, o instituto trabalhou com matemática abstrata, não com produtos: teoria da decisão, incerteza lógica e a questão formal de como um agente deveria raciocinar sobre si mesmo. Ele foi coautor de “A Formal Approach to the Problem of Logical Non-Omniscience”, com Scott Garrabrant e outros, e de “Cheating Death in Damascus”, artigo sobre teoria da decisão escrito com Benjamin Levinstein e publicado em The Journal of Philosophy em 2020. Em 2017, voltou ao Google para fazer uma apresentação sobre os problemas em aberto no alinhamento, argumentando que eram mais difíceis do que a área supunha. Em seu blog, Minding Our Way, também escreveu Replacing Guilt, uma série de ensaios sobre motivação que hoje pode ser comprada como livro e que o tornou conhecido em alguns círculos mais por conselhos sobre como trabalhar do que por qualquer coisa relacionada a máquinas.

A mudança veio em 2023. O MIRI anunciou que deixaria de concentrar seus esforços em pesquisa sobre alinhamento e passaria a alertar formuladores de políticas públicas e o público, embora continuasse apoiando algum trabalho técnico. Soares deixou a direção-executiva e se tornou presidente, enquanto Malo Bourgon assumiu como diretor-executivo. Em 2025, Soares disse à The Atlantic que estava se dedicando a conscientizar o público porque o desenvolvimento da IA avançava rápido demais para que salvaguardas adequadas fossem implementadas.

Essa mudança levou a If Anyone Builds It, Everyone Dies, escrito com Yudkowsky e publicado pela Little, Brown em setembro de 2025. O argumento está no título. Uma superinteligência construída “com qualquer coisa remotamente parecida com as técnicas atuais” muito provavelmente levaria à extinção humana; a pesquisa sobre alinhamento está longe de estar pronta; e só uma regulamentação internacional pode impedir que os desenvolvedores corram para criar sistemas que os autores consideram catastroficamente perigosos. Em outubro de 2025, o livro entrou na lista de mais vendidos do The New York Times. A Planeta lançou uma edição em espanhol, e a Hayakawa Shobo publicou uma tradução japonesa em abril de 2026.

A recepção expôs o ponto fraco do argumento. Algumas das críticas mais contundentes vieram de pessoas que compartilham a preocupação dos autores. Will MacAskill, um dos fundadores do movimento do altruísmo eficaz, chamou o livro de decepcionante e disse que ele se apoiava em argumentos fracos, construídos em torno de uma analogia com a evolução e de uma suposição não declarada de que o progresso da IA dará saltos, em vez de avançar gradualmente. A resenha de Clara Collier na Asterisk saiu com um título que resumiu a frustração dos leitores simpáticos à tese: “More Was Possible”. Há também uma contradição incômoda sobre a qual Soares raramente se detém. O MIRI passou anos tentando resolver o problema do alinhamento e depois concluiu que não conseguiria fazê-lo a tempo — algo que pode ser visto como honestidade intelectual ou como uma admissão de que o próprio programa de pesquisa fracassou. Para defender sua certeza, ele recorre a uma analogia com o xadrez: pode ter certeza de que Magnus Carlsen o venceria sem saber qual peça daria o xeque-mate. Para seus críticos, esse é justamente o problema: prever o desfecho sem explicar as jogadas.

Nada disso o fez mudar de posição. Em outubro de 2026, no podcast The Most Interesting Thing in AI, apresentado por Nicholas Thompson, ele disse que considera mais provável do que não que a humanidade não tenha mais uma década pela frente e explicou por que não mexe na conta 401(k). Na mesma conversa, insistiu que o resultado não está definido. “Faço tudo o que posso para impedir que isso aconteça. Não acho que seja inevitável”, disse, antes de recorrer ao ensaio “On Living in an Atomic Age”, de C.S. Lewis, que defendia que, se a bomba caísse, deveria encontrar pessoas fazendo coisas sensatas e humanas, em vez de encolhidas de medo. A versão de Soares: “Que nos encontre pressionando nossos governos a firmar tratados de não proliferação nuclear.”

Esse é o trabalho que ele escolheu. Continua presidente do MIRI e dedica seu tempo a entrevistas, palestras e reuniões informativas destinadas a transformar uma preocupação de pesquisa considerada marginal em um acordo internacional para deter a corrida rumo à superinteligência. A conta de aposentadoria do Google continua aberta. Ele simplesmente deixou de apostar nela.

Tags: inteligência artificial, Google, segurança de IA, Eliezer Yudkowsky, Machine Intelligence Research Institute, Nate Soares

Pessoas relacionadas

Pessoas relacionadas

Discussão