Cibersegurança

OpenRouter remove três provedores de IA após iscas revelarem roubo de prompts

Adrian Kessler
Adicione-nos no Google

A OpenRouter, serviço que muitos aplicativos de IA usam para enviar prompts ao host de modelos mais barato ou mais rápido, removeu três desses hosts de sua plataforma e retirou o selo Zero Data Retention (retenção zero de dados) de mais de cem endpoints. O gatilho foi um experimento que plantou credenciais falsas em prompts e depois observou quem tentava usá-las. Alguns dos prompts vazados haviam sido marcados para nunca serem armazenados.

Se você usa um chatbot, um assistente de programação ou uma ferramenta de escrita construída sobre o modelo de outra empresa, seu texto pode passar por várias companhias antes de a resposta voltar, e cada uma delas pode lê-lo por inteiro. A OpenRouter afirma que as descobertas não mostraram nenhuma violação de seus próprios sistemas. Os pontos fracos estavam mais adiante na cadeia, nas empresas que de fato executam os modelos.

A pesquisa é da Dragos, empresa de segurança cujo diretor de pesquisa, HD Moore, liderou o trabalho. Ao longo de cinco meses, sua equipe enviou perto de dois milhões de prompts, cada um com um link da web, uma senha de servidor ou uma chave da Amazon Web Services que não existia em nenhum outro lugar. Um segredo plantado só pode ser descoberto a partir do prompt que o continha, então qualquer uso dele prova que alguém leu aquele prompt. Os primeiros tokens foram acionados em poucos dias.

A descoberta mais grave foi o roubo puro e simples. Invasores haviam comprometido três provedores de inferência, e nenhum dos três sabia até os pesquisadores avisarem. No maior caso, todas as requisições enviadas a um provedor durante algumas janelas curtas foram copiadas, inclusive as que o provedor rejeitou antes mesmo de qualquer modelo rodar, o que coloca o ladrão na porta de entrada, e não no fundo do sistema. As chaves da AWS roubadas foram testadas, às vezes em poucas horas, e depois usadas para vasculhar armazenamento e cofres de segredos em dezenas de milhares de chamadas de API. Algumas das requisições roubadas traziam o sinalizador de retenção zero.

Outros vazamentos dispensaram invasão. Em um marketplace de revendedores, vendedores anunciavam modelos populares pelo menor preço, ativavam o registro das requisições e guardavam tudo o que passava. Uma pessoa, em uma conexão residencial na França, pegou senhas de dois prompts e tentou entrar como root via SSH, digitando cada tentativa à mão. Em outro caso, um laboratório chinês de IA acessou os links secretos de mais da metade dos prompts enviados a seus modelos, incluindo cerca de dois terços dos marcados para não coleta de dados, e hosts americanos que revendem esses modelos alimentaram o mesmo scraper. Um link apareceu em um chat de trabalho do Feishu, aberto a partir de seis dispositivos em Pequim e Xangai, 24 dias após uma única requisição.

Três hosts publicaram comunicados. A Phala disse que um invasor assumiu o controle de um de seus servidores de inferência e conseguia ver as requisições enquanto eram processadas. A Together AI afirmou que um agente de programação com IA enviou uma credencial a um repositório público do GitHub, o que permitiu a um intruso baixar amostras de prompts armazenadas e testar as senhas contidas nelas; cinco delas eram iscas dos pesquisadores. A Novita disse que um erro de roteamento encaminhou algumas requisições do MiniMax para o próprio serviço da MiniMax.

A limpeza tem limites claros. A OpenRouter não revelou quais são os três provedores removidos, a Dragos não revelou quais são os três que encontrou comprometidos, e nenhuma das duas disse se são as mesmas empresas. Um provedor invadido ainda não havia divulgado o incidente publicamente, segundo os pesquisadores. Descartar um host também não recupera prompts que já foram copiados: chaves e links plantados continuaram sendo usados semanas depois dos primeiros roubos. E quem usa um aplicativo construído sobre esses gateways normalmente não tem como saber qual host tratou seu texto.

O conselho de Moore parte de um limite: o sinalizador de privacidade vale apenas para o primeiro salto, e agentes de IA enviarão tudo o que conseguirem ler, credenciais incluídas. Hospedar o modelo por conta própria é a única configuração em que nenhum terceiro lê o prompt. Ir direto a um único grande provedor deixa apenas um contrato e uma política de privacidade para conferir, e quem usa roteadores deve escolher os hosts de origem em vez de aceitar o grupo mais barato.

A Dragos publicou suas descobertas em 19 de novembro. A OpenRouter enviou e-mails aos clientes afetados e publicou seu comunicado do incidente ao longo do fim de semana seguinte, e a Phala orienta quem enviou segredos a um modelo DeepSeek pelo gateway entre 21 de outubro e 8 de novembro a trocá-los. A OpenRouter diz que está incorporando à própria plataforma os testes de prompts-isca dos pesquisadores, para que as verificações rodem de forma contínua, e que os endpoints removidos só recuperarão o selo de retenção zero após garantias e validação. A Dragos trabalha agora com cerca de uma dúzia de provedores.

Nas palavras de Moore, para onde vão seus prompts é uma decisão, “e, se você não a toma, o menor preço toma por você”.

Tags: , , , , ,

Adicione-nos no Google

Discussão

Há 0 comentários.