Era pedra cantada.
Grandes bancos americanos identificaram a ação de agentes de AI não autorizados em seus sistemas – e aparentemente operando sem as instruções diretas dos clientes.
Segundo o Axios, os maiores bancos dos EUA, entre eles o Bank of America, o JPMorgan e o Wells Fargo, estão acelerando medidas e procedimentos para conter as ameaças dos agentes de AI.
Os casos relatados teriam envolvido o acesso a contas utilizando a permissão e as credenciais de login do próprio usuário.
Não está claro se a invasão foi feita por hackers ou por agentes de AI que tiveram acesso às credenciais dos clientes.
A dificuldade em distinguir entre um ser humano e um bot não autorizado está levando os bancos a bloquear a tecnologia e atualizar os termos de seus serviços.
Os bancos têm o conhecimento de que alguns de seus clientes concederam as credenciais para os agentes, mas isso vai contra a exigência de que o login seja feito por humanos – justamente porque, neste momento, é virtualmente impossível saber se é uma ação legítima ou não.
Executivos de bancos descreveram a situação como “assustadora,” segundo o relato do Axios.
Por isso, diversos bancos decidiram restringir o acesso de AI de terceiros.
De acordo com o Axios, a maioria dos bancos aceita o acesso de agentes apenas para a visualização de informações financeiras dos clientes, mas sem a possibilidade de realizar operações.
Esse tipo de acesso é concedido, por exemplo, para aplicativos como o Quicken, usado para o acompanhamento de despesas.
Os bancos sabem que os clientes vão querer utilizar agentes para realizar transações bancárias, mas, de acordo com os executivos, será necessário encontrar um meio-termo até que esse tipo de aplicação possa ser feita de maneira segura.
Em uma entrevista à Bloomberg na semana passada, o CEO da Charles Schwab, Rick Wurster, afirmou que a corretora bloqueou a atividade de agentes de terceiros, incluindo o Muse da Meta, que tentavam fazer movimentações nas contas dos clientes.
“Não queremos que alguém passe a senha para o Muse e deixe o agente fazer ações,” disse Wurster. “Não conseguimos controlar isso, o cliente não consegue controlar também, algo pode dar errado, e a culpa será de quem? Para proteção dos clientes, não estamos autorizando isso.”
As instituições financeiras, obviamente, querem que os clientes utilizem as suas ferramentas proprietárias de AI, em vez de agentes da Meta, da OpenAI ou da Anthropic.
Brian Moynihan, o CEO do Bank of America, disse à CNBC que o banco vai restringir o acesso dos agentes enquanto desenvolve os protocolos para o uso dessa ferramenta.
“Acreditamos que deve haver um ser humano envolvido no processo para autorizar a saída de dinheiro de uma conta,” disse Moynihan. “Estamos conversando com os fornecedores desses agentes, alertando sobre o risco de o dinheiro sair das contas sem que os clientes saibam o motivo da transação nem o seu destino.”