Eliezer Yudkowsky, o autor de fanfic que transformou o medo da IA em best-seller

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Nascimento	11 de setembro de 1979 Chicago, Estados Unidos
Ocupação	Escritor e pesquisador de IA

Quando Sam Altman, segundo relatos, apresentou à equipe da OpenAI as maneiras como a corrida rumo à superinteligência poderia terminar, um dos três cenários tinha nome e sobrenome. O “plano Eliezer” imagina um único laboratório chegando primeiro à IA capaz de se aprimorar e usando essa vantagem para cortar o acesso de todos os rivais ao poder computacional. Altman mencionou a ideia apenas para dizer que era terrível. A frase que acompanhou a história — derreter as GPUs de todo mundo — ecoa um exemplo que o próprio Eliezer Yudkowsky usou em um ensaio sobre os riscos da IA: ele sugeriu “queimar todas as GPUs” como ilustração e logo acrescentou: “Não acho que isso seja o que você realmente gostaria de fazer com uma AGI poderosa.”

O fato de um CEO batizar uma estratégia com o nome dele mostra até onde suas ideias chegaram — e quase todo esse percurso aconteceu por escrito. Yudkowsky é um pesquisador de IA sem diploma universitário e, acima de tudo, um escritor prolífico: centenas de ensaios em blogs, um romance de Harry Potter com dimensões épicas e um best-seller cujo título não deixa margem para dúvidas.

Ele nasceu em Chicago em 11 de setembro de 1979 e foi criado em uma família judaica ortodoxa moderna; hoje é secular. Problemas crônicos de saúde o fizeram sair do ensino fundamental, e ele nunca cursou o ensino médio nem a faculdade. Em 2000, aos vinte anos, fundou o Singularity Institute for Artificial Intelligence, com o apoio de Brian e Sabine Atkins, com o objetivo de acelerar a chegada da IA. Logo passou a se preocupar com aquilo que havia se proposto a construir e, em 2005, o instituto já estudava como administrar os riscos de máquinas mais inteligentes que seus criadores. Em 2013, a instituição se tornou o Machine Intelligence Research Institute, com sede em Berkeley.

A escrita ganhou força em novembro de 2006, quando ele e o economista Robin Hanson se tornaram os principais colaboradores do Overcoming Bias, um blog coletivo sobre racionalidade humana. Em fevereiro de 2009, seus textos serviram de base para LessWrong, um blog comunitário dedicado a “aperfeiçoar a arte da racionalidade humana”, que se tornou o principal espaço online do movimento que se denomina racionalista. Seus ensaios publicados ali, conhecidos simplesmente como “The Sequences”, abordavam vieses cognitivos, o teorema de Bayes e as maneiras como pessoas inteligentes enganam a si mesmas. Em 2015, o MIRI reuniu mais de 300 desses textos em Rationality: From AI to Zombies e, em 2017, publicou Inadequate Equilibria, um livro curto sobre por que as sociedades deixam sem solução problemas que poderiam ser resolvidos. Stuart Russell e Peter Norvig discutem suas propostas no livro-texto de IA mais consagrado, e Nick Bostrom o cita em Superintelligence: Paths, Dangers, Strategies.

Depois veio o romance. Harry Potter and the Methods of Rationality, ou HPMOR, como os fãs o chamam, foi publicado em capítulos no FanFiction.Net de 28 de fevereiro de 2010 a 14 de março de 2015: ao todo, 122 capítulos e mais de 660 mil palavras. A premissa altera um detalhe da história original. Petunia Evans se casa com Michael Verres, professor de Oxford, e o órfão Harry cresce sendo educado em casa e estudando ciências. Assim, o garoto que chega a Hogwarts testa a magia pelo método científico e se irrita com as incoerências do mundo bruxo. Na Corvinal, ele faz amizade com Draco Malfoy, Hermione Granger e o professor Quirrell. A trama fica mais sombria do que as piadas fazem supor, mas o verdadeiro tema é como pensar.

As opiniões dos leitores se dividiram profundamente. Em 2011, a The Atlantic registrou o alvoroço nos fóruns de fanfic em torno do “tratamento blasfemo — ou brilhante — da história original” e citou o escritor de ficção científica David Brin, que a chamou de “uma série extraordinária, sutil, dramática e instigante”. O jurista William Baude foi ainda mais longe no The Washington Post: “o melhor livro de Harry Potter já escrito, embora não tenha sido escrito por J.K. Rowling”. Amanda Silberling, do TechCrunch, achou a obra “realmente maçante”. Yudkowsky recusou uma sugestão para remover os elementos de Rowling e vender a história como um romance original — caminho seguido por Fifty Shades of Grey, que nasceu de uma fanfic de Twilight. “HPMOR está fundamentalmente ligado aos romances originais de Harry Potter e só pode ser entendido tendo essas obras como pano de fundo”, disse ele.

A ironia de sua trajetória é que o homem mais associado aos alertas sobre a IA também atraiu pessoas para a construção dessa tecnologia. Em fevereiro de 2023, Altman escreveu que Yudkowsky havia “despertado o interesse de muitos de nós pela AGI”, ajudado a viabilizar o financiamento da DeepMind e sido “fundamental na decisão de criar a openai”. Naquela primavera, Yudkowsky publicou um artigo de opinião na revista Time pedindo uma moratória mundial por tempo indeterminado para grandes treinamentos de IA. Mais tarde, a Time o incluiu em sua lista das 100 pessoas mais influentes da IA em 2023.

Seu livro mais direto chegou em 16 de setembro de 2025. Escrito com Nate Soares, colega de Yudkowsky no MIRI, e publicado pela Little, Brown, If Anyone Builds It, Everyone Dies argumenta que os sistemas modernos de IA são cultivados, não construídos: eles são treinados até acumular bilhões de parâmetros numéricos que nem seus próprios desenvolvedores conseguem interpretar. Por isso, ninguém pode definir com segurança os objetivos de um sistema que acaba se tornando mais inteligente do que nós. Segundo os autores, a humanidade perderia para uma superinteligência da mesma forma que as pessoas perdem para o mecanismo de xadrez Stockfish, e o único caminho seguro seria uma suspensão coordenada. O livro entrou nas listas de mais vendidos do The New York Times nas categorias de capa dura e de não ficção em geral.

As críticas foram tão divididas quanto as opiniões dos leitores sobre o romance. No The Guardian, David Shariatmadari considerou o livro “tão claro quanto difíceis de aceitar são suas conclusões”. Ian Leslie, no The Observer, elogiou sua “clareza, energia e alegria mal disfarçada”. Stephen Marche o comparou a um manual de cientologia no The New York Times, e Adam Becker, na The Atlantic, foi ainda mais direto: “Eles estão simplesmente errados.”

Desde então, o debate chegou às telas. Yudkowsky é uma das vozes, ao lado de Yoshua Bengio e Timnit Gebru, em The AI Doc: Or How I Became an Apocaloptimist, documentário de Daniel Roher sobre se tornar pai na era da IA, que chegou à Netflix em 15 de setembro de 2026. O jovem bruxo que conduz experimentos controlados e o coautor que quer interromper o experimento são a mesma pessoa: um escritor que continua convidando os leitores a acompanhar uma linha de raciocínio até o fim, por mais desconfortável que seja sua última conclusão.

Tags: inteligência artificial, escritores, Eliezer Yudkowsky, Harry Potter and the Methods of Rationality, LessWrong, Machine Intelligence Research Institute

Eliezer Yudkowsky, o autor de fanfic que transformou o medo da IA em best-seller

Conteúdo similar

Sam Altman, chefe da OpenAI, na ONU: “A IA deve ser construída para as pessoas, não apenas para acelerar as máquinas por si mesmas…”

Sam Altman: acelera em direção ao que ele mesmo chama de perigoso

Bill Gates: “A IA será o maior equalizador já inventado ou a pior fonte de injustiça”

O Documentário da IA: Ou Como Me Tornei Otimista Diante do Apocalipse chega à Netflix com quem constrói a IA e quem a teme

E se a sua startup fosse só você e 10.000 bots? Como virar um unicórnio sem contratar ninguém

Mustafa Suleyman, o chefe de IA da Microsoft que quer frear o que ele mesmo constrói

Discussão