IA

Novos termos do Wells Fargo jogam no cliente os erros do agente de IA

Susan Hill
Adicione-nos no Google

O Wells Fargo está reescrevendo o contrato que rege seu aplicativo e seu site para que tudo o que um agente de IA externo fizer na conta de um cliente seja considerado ato do próprio cliente. O banco diz que seguirá as instruções do agente sem verificá-las, não vai monitorar o que ele faz e tratará os erros do agente como erros do cliente. “Seu uso de qualquer Agente de IA é POR SUA CONTA E RISCO”, dizem os novos termos, em letras maiúsculas.

Para quem já entregou a senha do banco a um robô de compras ou a um assistente de orçamento, isso muda quem paga quando o software erra. Um pagamento em duplicidade, um pedido feito dez vezes ou uma transferência disparada por uma página da web armadilhada ficariam por conta do titular da conta, e não do banco, a menos que a lei diga o contrário. Ninguém precisa assinar nada: quem continuar usando o internet banking depois da mudança é considerado como tendo aceitado as regras. “Os consumidores autorizam objetivos, não cada clique”, disse à Wired Kacy Kim, professora de marketing da Bryant University que estuda o comportamento do consumidor.

A definição é ampla. O Wells Fargo chama de “AI Agent” qualquer software que execute “ação autônoma, semiautônoma ou não autônoma” em nome de alguém, o que vai muito além dos chatbots vendidos como assistentes pessoais. O cliente arca com o custo de um agente que interprete mal as instruções, faça coisas que ninguém pediu, aja com base em “entradas manipuladas” ou extrapole a autoridade que recebeu. Agentes operados por pessoas a quem o cliente dá acesso à conta se enquadram nas mesmas regras, e menores de 18 anos não podem conectar nenhum.

Desligar o agente também é tarefa do cliente. Os termos dizem que os clientes devem revogar o acesso por conta própria, guardar provas de que o fizeram e entregá-las caso o banco peça. Até avisarem o Wells Fargo, continuam responsáveis por tudo o que o agente fizer. Isso segue a lógica da norma americana sobre transferências eletrônicas, a Regulation E, que trata como autorizadas as transferências feitas por alguém a quem você deu seu cartão ou seu login até que você peça ao banco que as interrompa.

O Wells Fargo ainda deixa os agentes entrarem, o que o coloca na ponta mais permissiva de um setor que está fechando a porta. O JPMorgan Chase alterou seus termos para proibir agentes de terceiros que acessam a conta com as credenciais do cliente, o Bank of America alertou os clientes para não compartilharem seus logins com agentes, e o Citibank e o PNC acrescentaram avisos próprios, segundo a Wired. O Morgan Stanley bloqueou agentes de terceiros em suas plataformas, informou o Axios. O Wells Fargo manteve o direito de cortar as conexões usadas pelos agentes ou de bloquear qualquer agente por completo.

A resistência vai além do setor bancário. A Amazon bloqueou o agente Muse, da Meta, de fazer compras em sua loja, e a United Airlines afirmou que robôs pessoais não poderão comprar passagens para os viajantes. A American Express é a rara exceção no relato da Wired: disse que alguns erros de agentes, como pedir itens em excesso, poderão ser elegíveis a reembolso no futuro se o comprador não conseguir o dinheiro de volta com o varejista.

Quanto a nova redação muda na prática ainda não está claro. Suas cláusulas remetem repetidamente à “lei ou regulamentação”, e nenhum tribunal decidiu quem arca com o prejuízo quando um agente ativado pelo cliente faz algo que o cliente nunca pretendeu. O público também é pequeno. “Todos os nossos dados mostram que a maioria das pessoas nem sabe o que são agentes, muito menos usa”, disse à Wired a analista da Forrester Sucharita Kodali. E os bancos não são contra os agentes em si. “Eles estão trancando a porta para os agentes externos e construindo os seus próprios”, afirmou Luca Cian, professor da University of Virginia que estuda psicologia do consumidor e IA. O assistente de IA generativa do próprio Wells Fargo já realizou mais de um bilhão de interações.

Os novos termos valem apenas para clientes do banco online e móvel do Wells Fargo nos EUA, e todos os bancos citados até aqui são americanos. Na União Europeia, as regras de pagamento já empurram os aplicativos que leem ou movimentam dinheiro para conexões licenciadas fornecidas pelo banco, em vez de uma senha compartilhada, o que deixa menos espaço para agentes que acessam a conta como se fossem o cliente.

O contrato atualizado do Wells Fargo entra em vigor na terça-feira, 24 de novembro, e vale para quem continuar usando o site ou o aplicativo do banco depois dessa data. A proibição do JPMorgan a agentes baseados em credenciais veio no fim de outubro, no mesmo dia em que o Bank of America enviou seu alerta. O Wells Fargo também manteve a opção de obrigar os clientes a registrar seus agentes no banco, o que lhe daria uma lista dos robôs que, segundo ele, não monitora.

Tags: , , , , ,

Adicione-nos no Google

Discussão

Há 0 comentários.