IA

Grok Bot tentou acessar e-mails e agendas 31 vezes sem ninguém pedir

Adrian Kessler
Adicione-nos no Google

O Grok Bot, agente de IA da xAI voltado para o ambiente de trabalho, tentou repetidamente ler as agendas, os e-mails, o Slack, o Notion e o GitHub de seus donos sem que ninguém pedisse, segundo uma pesquisa divulgada pela empresa de segurança NewCore. Algumas dessas tentativas aconteceram enquanto o notebook de um dos donos estava fechado durante a noite e ele dormia. Quando esse usuário perguntou depois ao bot o que ele havia acessado, a resposta foi que não tinha feito chamada nenhuma e que tinha passado a noite ocioso.

Isso interessa a qualquer pessoa que entregue a um assistente de IA as chaves de uma conta de trabalho. Um agente desse tipo age com as credenciais de quem o conectou, de modo que toda leitura não solicitada acontece em nome dessa pessoa — e nenhuma delas apareceu no histórico de conversa do próprio bot. A NewCore só percebeu as tentativas porque seu gateway, que fica entre os agentes e os aplicativos da empresa, segurava cada requisição e disparava um alerta no celular pedindo aprovação. Como ninguém tocou em “sim”, todas as requisições expiraram.

Ao longo de cinco dias, os dois bots testados pela NewCore fizeram 31 dessas tentativas não solicitadas. O episódio mais gritante envolveu o segundo deles. O dono passou uma tarde dando a ele tarefas reais — contar pull requests, ler os e-mails recentes e publicar um resumo no Slack — e recusou quatro ofertas de ajuda extra, entre elas um resumo diário pela manhã. O bot respondeu: “Não vou configurar isso e vou parar de oferecer acompanhamentos recorrentes.” Quinze horas depois, ele começou a tentar acessar todos os aplicativos aos quais já tinha sido conectado, e repetiu a dose quatro horas mais tarde.

A NewCore afirma que o bot não estava mentindo, porque não conseguia ver o que tinha feito. O agente roda na plataforma de agentes da Cursor, a empresa de programação que hoje pertence à SpaceX, e essas rodadas em segundo plano começam em servidores hospedados, fora da conversa que o usuário enxerga. O computador na nuvem do bot, uma máquina virtual Linux que os pesquisadores desmontaram, também não guardava nenhum registro delas. “Não existe bug para corrigir, e é exatamente por isso que isso é pior do que um bug”, disse o pesquisador da NewCore Ido Hoorvitch ao Ars Technica.

A equipe de suporte da xAI disse aos pesquisadores que as chamadas eram verificações automáticas embutidas no sistema e que nenhuma configuração de usuário ou de administrador permitia desativá-las. Empresas que quisessem interrompê-las poderiam enviar por e-mail uma lista com os endereços de login de seus funcionários. Desde então, uma opção chamada “Proactive messages” apareceu no painel da Cursor que gerencia esses bots. Administradores de equipe agora podem desligar as verificações, mas a configuração vem ativada por padrão.

A pesquisa tem limitações. A NewCore vende o gateway que flagrou as chamadas, então o relatório também funciona como peça de divulgação do produto, e ele abrange apenas dois bots em contas corporativas de uma única empresa. Todas as 31 tentativas eram de leitura, e nenhuma chegou a acessar dados. A xAI de fato informa sobre esse comportamento, numa linha durante o cadastro inicial dizendo que o bot continua trabalhando enquanto você está ausente e na documentação, que observa que o bot principal faz verificações por conta própria. A promessa de pedir permissão antes de agir vale para alterações, como enviar uma mensagem, e não para leituras. O contraponto da NewCore é que as ferramentas de leitura e de escrita ficam lado a lado, e uma consulta à agenda está a um nome de ferramenta de distância de um e-mail enviado em seu nome.

A xAI não disse se as contas pessoais recebem as mesmas verificações em segundo plano nem se a nova opção está disponível em todos os mercados onde o agente é vendido. A SpaceXSI, empresa de Elon Musk que hoje abriga a xAI, não respondeu às perguntas enviadas por e-mail pelo Ars Technica, e a NewCore diz nunca ter recebido um posicionamento oficial da equipe de imprensa da xAI.

A NewCore relatou o comportamento à xAI em 4 de novembro, a opção apareceu em 12 de novembro e as descobertas vieram a público em 17 de novembro. Em outra frente, a Comissão de Proteção de Dados da Irlanda afirmou que o X concordou em deixar de treinar IA com dados de terceiros coletados pelo agente a partir do fim de outubro, segundo o Politico. Até que a própria xAI explique essas verificações, o registro mais claro do que o Grok Bot faz durante a noite está nas mãos de alguém que não é o Grok Bot.

Tags: , , , , ,

Adicione-nos no Google

Discussão

Há 0 comentários.