Em 1878, Friedrich Nietzsche publicou a obra Humano, demasiadamente humano, na qual trata do “espírito livre”, ou seja, aquele que pensa de forma independente e busca questionar o que é dado como certo.
Quase 150 anos depois, o que vivemos agora é o oposto: uma era na qual o ser humano tenta mecanizar todos os processos, principalmente com o uso da inteligência artificial, sem, no entanto, lembrar que essa tecnologia não é neutra, sem os vieses ou erros de quem a programou.
A busca pela inovação tecnológica e a vontade de “não ficar para trás” têm levado cada vez mais setores econômicos, incluindo o financeiro, a adotar essa ferramenta e alterar seus processos.
Contudo, embora isso possa trazer uma “sensação de eficiência”, é preciso estar atento a como esse avanço da “superinteligência” (como Donald Trump tenta rebatizá-la) afeta a confiança nas decisões que são tomadas pelas instituições financeiras e, principalmente, a confiança de clientes e investidores nessas decisões.
Como uma ferramenta criada por humanos e controlada por grandes empresas, com interesses próprios, é preciso manter a análise crítica e estar preparado para não ficar na mão da AI.
No Brasil, segundo a Pesquisa Febraban de Tecnologia Bancária 2026, 80% das instituições já usam AI para analisar dados e aprimorar suas ofertas de produtos e serviços. No mundo, um estudo da KPMG indica que mais de três quartos das organizações estão utilizando a AI no planejamento financeiro, na elaboração de relatórios e na análise comercial.
Até mesmo grandes bancos internacionais já criaram ferramentas de AI voltadas para a divisão de wealth management para municiar seus bankers e financial advisors, assim como os clientes, com recomendações, análises e resumos.
O pressuposto da AI é captar o máximo de informações e codificá-las para outra máquina entender – tanto que as empresas de AI já codificaram o conteúdo de milhares de livros para alimentar seus modelos. Ou seja, é um sistema de linguagem de máquina para máquina, e não foi feito considerando a forma de interpretação e aprendizagem do ser humano.
O ponto-chave aqui é que, quando começamos a lidar com uma linguagem cifrada, voltada ao entendimento de outra máquina, a relação humana com a mensagem se transforma. Passamos a depender de mecanismos de compilação e processamento que recebem o material, analisam-no e produzem algo a partir dele.
Isso significa que aquilo que o ser humano recebe não é necessariamente a mensagem em sua forma original, mas o resultado de um processo de interpretação e transformação realizado pela máquina, o que pode afetar a maneira como compreendemos a informação, atribuímos sentido a ela e reagimos ao seu conteúdo.
Este risco é ainda maior quando lembramos que as ferramentas de AI disponíveis não são entidades autônomas, como explicou Leandro Karnal em uma recente entrevista. Elas pertencem a empresas cujo objetivo principal é maximizar seu valor de mercado. Não há neutralidade na AI.
A ferramenta tira a capacidade de absorção da informação de forma neutra e, assim, aumenta também o risco de se perder o controle sobre o processo de interpretação da informação e de tomada de decisão.
É por isso que precisamos ter muita atenção em relação com o uso dessa tecnologia em todas as áreas – mais especificamente no setor financeiro.
Antes, as decisões eram tomadas com base em uma tábua de valores que permitia avaliar diferentes elementos de um problema e chegar a uma decisão.
Isso indicava uma lógica a ser usada na tomada de decisão: os critérios adotados, o peso atribuído a cada elemento e as razões que justificavam a decisão. Isso permitia, posteriormente, confrontar os resultados com as avaliações originais, identificar erros, compreender o que havia falhado e rever os critérios para decisões futuras.
Com a AI, existe o risco de que essas etapas intermediárias se tornem obscuras ou inacessíveis.
Usuários de serviços financeiros precisam ter repertório para se contrapor, guardar o passo a passo (como uma ficha técnica) de como usou a ferramenta, como obteve a informação para, ao fim, ter a possibilidade de fazer o caminho inverso, perceber em que ponto ocorreu um possível erro e, assim, se precaver de possíveis danos, jurídicos ou financeiros.
O problema não está na tecnologia em si, mas na possibilidade de se perder a capacidade de reconstruir e examinar criticamente o caminho que levou a determinado resultado.
Mesmo com o uso dessas ferramentas, é fundamental preservar a análise de todas as etapas do processo decisório, de modo que ele possa ser compreendido, questionado e, se necessário, corrigido.
É preciso acompanhar os movimentos de governos ao redor do mundo para regular a AI, que avançam de forma lenta – bem mais lenta do que o avanço da tecnologia.
No Brasil, o Marco Legal da AI, proposto pelo Senador Rodrigo Pacheco em 2023 e que impacta diretamente os bancos, fintechs e seguradoras ao classificar os sistemas usados em decisões de impacto econômico como de “alto risco”, só foi avaliado pelo Senado em dezembro de 2024 e espera uma votação na Câmara dos Deputados.
Enquanto isso, usuários, empresas e desenvolvedores precisam assumir responsabilidades e avaliar os riscos de cada decisão tomada com base em recomendações de AI.
Ressalto aqui que o problema não está na tecnologia em si, mas no risco de se perder a capacidade de reconstruir e examinar criticamente o caminho que levou a determinado resultado.
É fundamental preservar a análise de todas as etapas do processo decisório de modo que ele possa ser compreendido, questionado e, se necessário, corrigido.
Em meio ao avanço da AI e à busca por eficiência, não podemos nos esquecer da capacidade crítica de análise para não ficarmos à mercê da tecnologia. A ferramenta é útil, mas não inocente.
Pierre Moreau é advogado.