A IA entende você, mas a quem ela serve?

Por Clécia Simões, embaixadora IA4FIN

Imagine que o assistente de inteligência artificial do seu banco sabe que você está se separando. Conhece sua carteira, acompanha suas despesas e lembra que, na última conversa, você disse ter medo de comprometer o futuro dos filhos.

Dias depois, recomenda um investimento. Explica os riscos, recupera suas preocupações e mostra como aquele produto poderia ajudar a proteger sua família. Você se sente compreendido.

Dentro do banco, porém, aquele mesmo produto é prioridade comercial do trimestre.

A recomendação pode ser adequada. O conflito está em determinar quanto da conversa foi orientado pela sua necessidade e quanto pela necessidade da instituição. O mesmo conhecimento que permite cuidar melhor de você também pode tornar a oferta mais difícil de recusar.

Essa cena é hipotética. Porém, os componentes tecnológicos que a tornam plausível já começam a se encontrar.

Em 14 de setembro de 2026, a Zocks anunciou uma integração ao Claude for Financial Advisors que permite combinar dados financeiros com objetivos, preocupações e acontecimentos pessoais registrados em conversas entre clientes e assessores. Trata-se de uma ferramenta para apoiar o profissional, com conexão de leitura aos dados da Zocks, e não de um anúncio de atendimento autônomo ao investidor. Ainda assim, a mudança importa: o contexto pessoal passa a alimentar a preparação de análises e materiais individualizados. 

Em 28 de julho, a Conquest havia anunciado a integração da Lydia, da Shaping Wealth, ao seu planejamento financeiro. A proposta reúne análise financeira e orientação comportamental para ajudar assessores a preparar reuniões, conduzir conversas difíceis e apresentar recomendações. A tecnologia participa da escolha do que recomendar e da preparação de como dizer. 

Nenhum desses anúncios demonstra manipulação. Eles mostram uma capacidade que merece investigação: reunir conhecimento sobre o patrimônio e sobre a pessoa na mesma estrutura de aconselhamento.

Há uma diferença decisiva entre ajustar o produto às condições do cliente, ajustar a explicação para que ele compreenda e ajustar o argumento para que aceite. As três coisas podem acontecer na mesma conversa. Uma taxa de conversão não distingue nenhuma delas.

A pesquisa já oferece razões para levar essa distinção a sério. Em um experimento pré-registrado com 900 participantes, publicado em 2025 na Nature HumanBehaviour, o GPT-4 com acesso a informações sociodemográficas foi mais persuasivo que interlocutores humanos em debates breves. 

Em finanças, um working paper de agosto de 2026, publicado pelo CESifo, torna o papel dos incentivos mais explícito. Os participantes escolhiam entre dois fundos virtuais, um deles superior ao outro nas condições da tarefa. Quando o chatbot promovia a opção superior, a proporção de escolhas corretas aumentava 23,6 pontos percentuais em relação ao grupo sem aconselhamento. Quando promovia a inferior, caía 29,3 pontos. 

Minha leitura é que avaliar a competência do assistente sem avaliar a direção de seus incentivos deixa metade do problema fora da sala.

E há uma dificuldade maior. No experimento, era possível identificar a alternativa superior. Na vida financeira, as escolhas envolvem segurança, consumo presente, herança, liberdade e tolerância à incerteza. Uma recomendação depende do que aquela pessoa valoriza.

Mas o que ela valoriza depois da conversa não pode ser tratado automaticamente como algo que o sistema apenas descobriu.

Voltemos à cliente preocupada com os filhos. O assistente pode ajudá-la a dimensionar suas necessidades, comparar alternativas e reconhecer que parte do medo excede o problema financeiro. Pode também organizar a conversa inteira em torno da possibilidade de desampará-los. Ao final, ela afirma que segurança é sua prioridade absoluta.

O sistema identificou essa prioridade ou ajudou a produzi-la?

Uma boa conversa pode mudar prioridades. Isso não é, por si só, um problema. O problema aparece quando a instituição usa a preferência resultante para justificar a oferta sem examinar como ela se formou.

A conversa orienta a escolha. A escolha confirma o perfil. O perfil justifica a próxima recomendação.

O banco pode acabar chamando de conhecimento do cliente aquilo que, em parte, é efeito da própria intervenção.

Essa circularidade é uma hipótese a testar. E deveria ocupar os cientistas comportamentais tanto quanto a pergunta sobre qual mensagem gera mais adesão.

Também precisamos distinguir o que o sistema lembra do que conclui. “A cliente está se divorciando” registra um acontecimento. “A cliente é avessa ao risco” atribui uma característica. “A cliente precisa ser tranquilizada antes de contratar” já sugere como influenciá-la.

São três afirmações diferentes. Armazená-las no mesmo perfil não as torna igualmente verdadeiras.

Uma preocupação expressa durante uma crise pode ser temporária. Se virar característica permanente, o assistente poderá continuar apresentando sobretudo alternativas conservadoras. As escolhas seguintes parecerão confirmar a classificação inicial, embora a própria seleção de opções tenha contribuído para elas.

Há outro ponto incômodo para bancos acostumados a acompanhar satisfação: o cliente pode gostar da conversa pelas razões erradas.

Em janeiro de 2026, a Anthropic divulgou uma análise de cerca de 1,5 milhão de conversas. As situações com potencial grave de comprometimento da autonomia eram raras. Em uma amostra separada, composta por usuários que deram feedback, interações com potencial moderado ou grave receberam mais avaliações positivas no momento. Essa aprovação caía em algumas categorias quando havia indícios de que os usuários tinham agido sob aquela influência. A pesquisa é observacional, usa classificação automatizada e identifica potencial de dano, não dano confirmado. 

A implicação para finanças merece teste: satisfação pode refletir compreensão, mas também alívio por ter transferido a alguém o peso de decidir.

Delegar pode ser perfeitamente racional. Ninguém precisa dominar todos os produtos financeiros para receber um bom serviço. Mas essa delegação precisa ser compreendida, delimitada e passível de revisão. Um cliente capaz de questionar uma recomendação não é necessariamente um cliente menos bem atendido.

Por isso, eu não colocaria “aumentar a confiança” como objetivo suficiente de um assistente. Interessa calibrá-la: criar condições para que a pessoa reconheça tanto quando pode confiar quanto quando deve pedir outra avaliação.

Para os cientistas comportamentais, isso exige uma agenda de pesquisa que sobreviva ao entusiasmo com a conversão.

Eu começaria comparando a mesma recomendação com e sem contexto pessoal, medindo compreensão e aceitação separadamente. Depois testaria ofertas de qualidade diferente. O contexto ajuda o cliente a perceber que uma opção é inferior ou torna qualquer opção mais aceitável? Mudaria também o objetivo comercial do sistema, mantendo constantes as condições financeiras da pessoa, para observar o que muda na recomendação e no argumento.

A avaliação precisaria continuar depois da conversa. O cliente consegue explicar custos e riscos sem ajuda? Reconhece uma alternativa melhor? Mantém a decisão quando as mesmas informações são apresentadas sem o enquadramento emocional original? Consegue corrigir uma interpretação equivocada sobre si mesmo?

Esses testes não produzem uma medida única de bem-estar. A mudança de opinião tampouco prova manipulação. Eles ajudam a distinguir uma escolha sustentada por compreensão de uma adesão dependente 

da maneira como a oferta foi apresentada.

Também é preciso acompanhar diferenças entre pessoas. Um resultado médio positivo pode esconder prejuízos justamente entre clientes sob maior pressão financeira ou emocional. E retorno realizado não resolve a avaliação: uma decisão prudente pode perder dinheiro. Uma decisão ruim pode ter sorte.

Para CEOs, a consequência é organizacional. Quem vai procurar os casos em que a intervenção aumenta vendas e piora decisões? Essa equipe terá acesso às conversas, aos critérios de recomendação e aos objetivos comerciais? Terá autoridade para interromper uma prática lucrativa?

Se o trabalho da ciência comportamental termina quando o cliente diz sim, sobra pouca gente dentro da instituição para investigar a qualidade desse sim.

Minha hipótese é que a confiança será uma vantagem competitiva justamente onde mais custa preservá-la: quando conhecer melhor o cliente permitir vender mais, mas recomendar menos for a decisão correta.

Uma IA pode aprender a soar paciente, lembrar os filhos e reconhecer um momento difícil. Nada disso, isoladamente, revela a quem ela serve.

O teste começa quando a melhor recomendação para o cliente contraria a prioridade comercial do trimestre.

O que o seu banco a ensinou a fazer nesse momento?