Move fast and justify everything

Por Rogério Melfi, embaixador IA4FIN

Para quem trabalha na fronteira entre tecnologia e finanças, a Inteligência Artificial parou de ser apenas uma ferramenta sofisticada para melhorar a experiência do cliente ou otimizar campanhas de marketing. No atual cenário do Open Finance e das fintechs, os algoritmos e modelos de Machine Learning assumiram um papel muito mais sério: eles passaram a desempenhar funções que, até pouco tempo atrás, eram exercidas predominantemente pelo próprio Estado.

Para entender como a tecnologia assumiu essa função, é preciso olhar para a incapacidade prática do setor público de acompanhar o volume monumental de dados produzido pela economia digital. Bilhões de transações via Pix, TED, cartões e outros meios de pagamento tornam inviável um modelo de fiscalização baseado exclusivamente na atuação direta dos órgãos públicos. A resposta regulatória foi exigir que as próprias instituições financeiras passassem a monitorar, identificar e impedir operações potencialmente ilícitas em tempo real.

Mas como um banco bloqueia uma fraude no momento exato em que ela acontece? A única resposta viável é a Inteligência Artificial.

A teórica Karen Yeung, uma das maiores especialistas no tema, cunhou o termo “Regulação Algorítmica” para explicar exatamente esse fenômeno. Hoje, o monitoramento de PLD (Prevenção à Lavagem de Dinheiro) e KYC (Conheça o seu Cliente) já não depende da análise humana de relatórios. Ele é realizado por algoritmos capazes de processar enormes volumes de dados, construir perfis comportamentais e identificar padrões suspeitos em questão de milissegundos.

Na prática, isso significa que sistemas de IA passaram a desempenhar funções materialmente semelhantes àquelas tradicionalmente associadas ao poder de polícia estatal. Quando um modelo preditivo decide bloquear temporariamente a conta de um pequeno empresário por identificar uma movimentação considerada atípica, a decisão não resulta de uma análise individual realizada por um agente público. Ela decorre de modelos estatísticos desenvolvidos para cumprir obrigações regulatórias impostas às instituições financeiras. Em muitos casos, esses modelos são tão complexos que nem seus próprios desenvolvedores conseguem explicar, com precisão, como chegaram àquela conclusão.

A Regulação Algorítmica traz uma eficiência inegável para o combate à fraude. Ela consegue identificar conexões em redes de lavagem de dinheiro que um ser humano levaria meses, ou anos, para encontrar. Mas também levanta importantes preocupações para o ecossistema de inovação e para a proteção de direitos individuais. Yeung alerta para o risco do Hypernudge, mecanismos capazes de influenciar ou restringir comportamentos de forma quase imperceptível por meio de decisões automatizadas. Quando delegamos às instituições financeiras a execução dessas funções por meio da Inteligência Artificial, corremos o risco de reproduzir vieses algorítmicos, perpetuar discriminações e produzir bloqueios financeiros injustos em larga escala.

Ao contrário do sistema judicial, no qual decisões podem ser questionadas e revisadas, na Regulação Algorítmica o veredito costuma ser imediato. O usuário simplesmente tenta fazer um Pix ou utilizar seu cartão e recebe a mensagem: "Transação não autorizada". O direito à explicação muitas vezes é substituído por uma resposta automática que, em nome da segurança ou do sigilo, pouco esclarece sobre os motivos da decisão.

A Inteligência Artificial precisa ser não apenas veloz, mas também auditável, explicável e justa. Modelos capazes de restringir o acesso de cidadãos ao sistema financeiro não podem se esconder indefinidamente atrás do argumento do segredo de negócio. Estamos deixando para trás a era do Move fast and break things. No sistema financeiro, a nova regra precisa ser outra: Move fast and justify everything.