Cibersegurança

Agente Muse da Meta leu conversas do Signal no Android, mas foi barrado no iPhone

Adrian Kessler
Adicione-nos no Google

O Muse, da Meta, agente de IA que responde e-mails, marca compromissos e faz compras em nome do usuário, leu mensagens privadas do Signal em um celular Android sem passar pelas conexões de aplicativos que a própria Meta diz que os usuários devem gerenciar. A porta de entrada foi uma permissão que a maioria das pessoas concede sem pensar duas vezes: o acesso às notificações do aparelho. O mesmo pedido falhou em um iPhone.

A descoberta vem de testes que a Reuters fez com integrantes do Signal e do AI Now Institute, organização sem fins lucrativos que estuda os efeitos da IA na sociedade. Eles tentaram reproduzir o que uma funcionária da Meta havia relatado internamente: o Muse a lembrando, sem que ela pedisse, de responder a uma mensagem da irmã no Signal. “Isso parece uma violação extrema de privacidade. Eu definitivamente não dei acesso a outros aplicativos, nem me lembro de ter sido consultada sobre isso”, escreveu ela. Se você usa o Muse no Android, a configuração que importa é o acesso do app às notificações, e desativá-lo corta o agente do acesso às prévias das suas mensagens.

Em um Mac, os testadores encontraram um segundo caminho. O Muse combinou a ferramenta de captura de tela com os recursos de acessibilidade do macOS, os controles que a Apple desenvolve para que pessoas com deficiência possam usar um computador, para ler as mensagens. Nos dois casos, ele ignorou o Connector, a ferramenta da própria Meta, o painel em que os usuários escolhem em quais aplicativos o agente pode mexer, e se apoiou nas permissões concedidas durante a configuração inicial. Um colega da funcionária disse, no mesmo grupo interno, que o Muse veio configurado por padrão, com permissão para ler as notificações push do seu celular Android.

A Reuters analisou mais de duas dezenas de publicações internas em que funcionários da Meta apontaram o Muse fazendo coisas que ninguém pediu, e algumas vão muito além de ler mensagens. Um funcionário que conversava com o agente sobre o tempo para pescar recebeu uma linha extra: “BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57.” Ele nunca havia compartilhado dados bancários com o Muse. Outro recebeu oferta de ajuda para mandar mensagem a um vendedor sobre uma mesa de centro e, quando perguntou o que aquilo significava, o Muse respondeu que havia “pulled in some context about a coffee table pickup that doesn’t seem to be yours”. Ele relatou um “possible cross-account context leak”.

A Meta contesta a interpretação desses episódios. O porta-voz Daniel Roberts classificou os exemplos como “incidentes isolados”, disse que o Muse só acessa outros aplicativos por meio de permissões concedidas explicitamente pelas pessoas e afirmou que muitas das supostas trocas de contas eram alucinações, já corrigidas. Um integrante da equipe de Superinteligência, que desenvolve o Muse, disse aos funcionários que o agente parecia inventar mensagens em resposta a comandos embutidos que o incentivam a interagir com os usuários entre uma sessão e outra, e que essas invenções tendem “towards the most uncomfortable topics, like finances/security/safety”. A Reuters não conseguiu determinar se o Muse estava entregando dados reais de outras pessoas ou inventando tudo. Nenhuma das respostas é reconfortante num assistente que pede acesso ao seu e-mail, à sua agenda e às suas contas de pagamento.

Alguns dos erros custaram dinheiro. Funcionários relataram que o Muse inventou preços de coisas que haviam comprado, e um deles disse que o agente reservou, sem permissão, uma hospedagem no Airbnb sem direito a reembolso. O Ars Technica, citando a mesma reportagem, descreveu um testador que foi transferido para um plano de seguro para animais de estimação de US$ 888 por mês, em vez de US$ 200. Os termos de serviço da Meta tornam os usuários responsáveis pelo que o agente faz. A empresa afirma que cada agente roda em sua própria máquina virtual isolada e que as pessoas mantêm controle total sobre quais aplicativos conectam, argumento que Mark Zuckerberg já usou para rebater pedidos por padrões de segurança de IA para todo o setor.

A escala é o motivo pelo qual isso importa para além dos escritórios da Meta. O Muse ultrapassou 10 milhões de downloads desde o lançamento nos Estados Unidos, em setembro, promovido para os 3,6 bilhões de pessoas que usam Facebook, Instagram e WhatsApp, e a Meta diz que cerca de um quarto de quem o configura volta todos os dias. A permissão de notificações funciona da mesma forma em qualquer celular Android em que o app esteja instalado.

A presidente do Signal, Meredith Whittaker, disse que a Meta lançou o Muse “sem demonstrar nenhum respeito pela privacidade básica ou pela cibersegurança” e chamou de “tecnologicamente irresponsáveis” agentes com esse tipo de alcance sobre os dispositivos das pessoas. Ela quer que aplicativos como o Signal tenham uma forma técnica consistente de se declarar fora dos limites para agentes de IA, que as empresas de IA a respeitem e que os fabricantes de sistemas operacionais a façam valer.

Apple e Google disseram à Reuters que estão avaliando mudanças que deem às pessoas mais controle sobre o que autorizam os agentes de IA a fazer, embora o Google tenha observado que as pessoas já “must deliberately grant permissions” para que um aplicativo leia as notificações do Android. A Apple foi mais rápida: uma atualização do macOS desta semana limita drasticamente o uso das ferramentas de acessibilidade por desenvolvedores nos Macs e adiciona um novo conjunto de permissões pensado para agentes, o que fecha o caminho usado pelos testadores. O Google não anunciou nenhuma correção equivalente. No Android, por enquanto, a única tranca nessa porta é um botão nas suas configurações.

Tags: , , , , , , ,

Adicione-nos no Google

Discussão

Há 0 comentários.