O diretor-executivo do Google parou de contabilizar. Questionado sobre quanto do código da empresa agora é escrito por IA, Sundar Pichai disse que a pergunta já não faz sentido, porque a IA participa de tudo. Na mesma conversa, minimizou o cenário que preocupa boa parte do setor: uma IA que cria versões melhores de si mesma, deixando as pessoas de fora do processo.

As duas afirmações podem estar corretas. O problema é saber quem as verifica. O número que Pichai deixou de lado era o único que permitia a quem está de fora comparar o Google com outras empresas. O que entra no lugar dele — e as evidências por trás da visão mais tranquila de Pichai sobre a IA capaz de se aprimorar — vem de medições que o Google faz de si mesmo.

O que Sundar Pichai disse sobre IA e o código do Google

Pichai conversou com Alex Kantrowitz no Big Technology Podcast, gravado na sede do Google em Mountain View e também publicado por Kantrowitz como uma entrevista escrita em formato de perguntas e respostas. Quando Kantrowitz mencionou a afirmação antiga de que um quarto do código do Google vinha de IA e perguntou qual era o percentual atual, Pichai chamou a pergunta de “sem sentido”, porque toda parte do código em que o Google mexe agora “é profundamente influenciada pela IA”.

Em vez desse dado, ele apresentou números do Gemini 4 Argon, o modelo mais recente do Google, que a empresa colocou à disposição dos próprios engenheiros. Nas quatro semanas desde o lançamento, disse Pichai, o Google registrou um aumento de 30% nas CLs, nome interno dado às submissões de código, e uma queda de um terço nas reversões — mudanças que precisam ser desfeitas depois de entrar em produção. “Agora estamos acompanhando isso com métricas mais recentes”, afirmou.

A métrica antiga não desapareceu por conta própria. Em uma publicação de blog em abril, o Google estimou em 75% a parcela de código novo gerada por IA, ante 25% em 2024 e 50% no outono anterior, segundo Semafor e ETV Bharat. Na época, a Semafor observou que algumas dessas afirmações eram quase impossíveis de verificar e as comparou com os números da Snap, de 65%, e com a meta da Meta de chegar a níveis semelhantes.

Por que Pichai diz que a IA capaz de se aprimorar ainda está longe

Ao falar sobre o autoaperfeiçoamento recursivo, ou RSI, Pichai apresentou sua resposta como um esclarecimento sobre o que quis dizer seu cofundador. Sergey Brin havia chamado o RSI de um fator decisivo para o Argon, disse ele, mas “ainda estamos bem longe do estágio final do RSI”. Em seguida, descreveu a situação atual do Google: “A melhor forma de explicar é que há ciclos de RSI junto com pesquisadores de IA em vários aspectos do desenvolvimento de modelos. Eu diria que você já tem agentes ajudando pesquisadores de IA, de alguma forma automatizada, a trabalhar em conjunto para criar esses modelos.”

Brin havia ido além poucos dias antes. Em uma conversa em mesa-redonda sobre o Argon, compartilhada pelo Google, ele disse que a empresa estava “começando a entrar nessa esteira do RSI” e que “agora nossos pesquisadores e o modelo trabalham lado a lado para criar a próxima versão do modelo”, segundo o Business Insider. Um relatório da Gladstone AI publicado neste mês afirmou que a maioria dos pesquisadores entrevistados na Anthropic, na OpenAI e no Google DeepMind espera que o RSI comece dentro de três a 12 meses.

Relatório de segurança do Google dá razão a Pichai — nos testes do próprio Google

No papel, os dados dão razão a Pichai. O relatório de segurança do Google DeepMind sobre o Argon conclui que não há “aceleração significativa, de ponta a ponta, da pesquisa e do desenvolvimento de IA, seja ou não impulsionada por IA” e classifica esse risco como “atualmente baixo”, segundo a TNW. De acordo com o documento, agentes de IA “são responsáveis pela autoria da maioria do código de produção e das correções de bugs, embora as mudanças no código continuem sujeitas à revisão humana antes do envio”. A parcela de pull requests totalmente delegadas subiu de 7,5% em abril para 11,9% em setembro; cerca de 88% ainda exigem orientação humana repetida ou código escrito por uma pessoa.

Essas conclusões vêm dos instrumentos do próprio Google. O avanço da IA na automação da pesquisa em IA é avaliado com base em um benchmark interno de 74 tarefas que ninguém de fora da empresa pode executar. Uma análise publicada no LessWrong chama atenção para uma observação no próprio relatório: entre as tarefas originais auditadas pelo Google, “cerca de um quarto continha bugs que impedem qualquer submissão de ser aprovada”. Como muitas execuções excederam o tempo limite, o relatório não apresenta uma estimativa pontual para o Argon, que resolveu cerca de metade das tarefas concluídas. O Google afirma que sua conclusão continua válida mesmo se todas as execuções inacabadas tivessem sido bem-sucedidas.

A revisão humana é a barreira na qual se apoia o argumento de segurança. Trinta por cento mais submissões de código significam trinta por cento mais mudanças para as pessoas responsáveis por essa revisão; e as métricas escolhidas por Pichai contabilizam entregas e reversões, não o grau de atenção dedicado à leitura de cada mudança.

A solução proposta pelo próprio Pichai: auditores independentes

Pichai não descartou a preocupação. A pesquisa sobre alinhamento ainda tem “lacunas claras”, disse ele, e “é razoável se preocupar”. Na visão de Pichai, o próximo passo é estabelecer padrões para todo o setor, “incluindo a possibilidade de avaliar com avaliadores independentes”, seguindo o modelo das normas contábeis e dos auditores externos, com a regulação “acabando por desempenhar um papel”.

À luz desse padrão, as duas afirmações desta semana continuam sem auditoria independente. O Google contabiliza as próprias listas de alterações, avalia as próprias reversões e atribui notas ao próprio benchmark de pesquisa.

O percentual que ele chamou de sem sentido era rudimentar, mas qualquer pessoa podia compará-lo ao da Snap. Os números que o substituem só podem ser examinados de dentro do Google.

Tags: Google, Gemini, Sundar Pichai, programação com IA, Sergey Brin