Quando a IA vira infraestrutura estratégica, governança deixa de ser opção

Por Fernando Tassin, embaixador IA4FIN

A decisão do governo americano de determinar a suspensão do acesso aos modelos Fable 5 e Mythos 5, da Anthropic, não deve ser lida apenas como mais uma controvérsia entre Estado, Big Tech e inovação. 

Ela marca algo mais relevante: a inteligência artificial de fronteira deixou de ser tratada apenas como ferramenta de produtividade e passou a ser enquadrada como ativo estratégico, com potencial impacto em segurança nacional, cibersegurança, soberania tecnológica e resiliência institucional.

Segundo a própria Anthropic, o governo dos Estados Unidos emitiu uma diretiva de controle de exportação para suspender o acesso aos modelos Fable 5 e Mythos 5 por estrangeiros, dentro ou fora dos EUA, incluindo empregados estrangeiros da própria companhia. Na prática, a empresa afirmou que precisou desativar os modelos para todos os clientes, para garantir conformidade com a ordem. A justificativa pública foi genérica: segurança nacional. A empresa declarou entender que a preocupação estaria relacionada a um possível método de contornar salvaguardas do Fable 5, conhecido como jailbreak. 

Esse detalhe importa! O debate não está apenas na existência de um modelo poderoso, mas na possibilidade de que suas salvaguardas sejam contornadas e que suas capacidades sejam redirecionadas para finalidades não pretendidas. Em modelos avançados, o risco não é somente o erro. É o uso adversarial.

O governo americano, ao agir de forma “tão dura”, parece tentar mitigar um conjunto de riscos potenciais. 

• O primeiro é o risco cibernético: modelos capazes de apoiar descoberta de vulnerabilidades, geração de código ofensivo, análise de sistemas ou automação de ataques podem alterar a assimetria entre defensores e atacantes. 

• O segundo é o risco geopolítico: se modelos de fronteira forem acessados por atores estrangeiros, inclusive por meio de intermediários, a capacidade tecnológica privada pode se converter em vantagem estratégica fora do controle do país de origem. 

• O terceiro é o risco de escalabilidade do dano: uma falha explorável em um modelo usado por milhões de usuários não produz apenas incidentes isolados; pode ampliar capacidade ofensiva em escala.

• Há ainda um quarto risco, menos discutido e talvez mais incômodo: o risco de perda de controle sobre a cadeia de responsabilidade. Quando uma empresa privada desenvolve um modelo com capacidade relevante para segurança nacional, mas distribui esse modelo globalmente por APIs, parcerias, nuvem, integrações corporativas e equipes multinacionais, quem decide o limite aceitável de uso? O fornecedor? O cliente? O regulador? O governo do país onde a empresa está sediada? Ou o país onde o modelo é usado?

Essa é a pergunta que o episódio Anthropic colocou sobre a mesa.

A resposta americana foi extrema: restringir o acesso. Mas a extremidade da medida não elimina a legitimidade da pergunta. Pelo contrário. Ela mostra que a governança de IA está deixando de ser apenas um tema de boas práticas corporativas para se tornar um mecanismo de controle estratégico de capacidade tecnológica.

Para empresas, especialmente bancos, fintechs, seguradoras, meios de pagamento, infraestrutura de mercado, telecomunicações, energia, saúde e organizações intensivas em dados, o paralelo é direto e é exatamente isso que abordamos nas pautas do IA4FIN, iniciativa que visa debater o uso da IA no mercado financeiro. Nem todo uso de IA deve ser tratado da mesma forma. Uma ferramenta usada para resumir reuniões internas não tem a mesma criticidade de um modelo conectado a prevenção à fraude, análise de crédito, monitoramento transacional, atendimento ao cliente, precificação, cibersegurança, cobrança, gestão de identidade ou decisão sobre acesso a serviços essenciais.

O problema é que muitas organizações ainda governam IA pelo nome da ferramenta, não pelo risco do caso de uso. Autorizam ou proíbem plataformas inteiras, mas não classificam adequadamente o que o modelo faz, quais dados acessa, quais decisões influencia, quais sistemas aciona, quais terceiros participam da cadeia e qual seria o impacto de uma saída incorreta, enviesada, manipulada ou explorada por ataque.

O caso Anthropic ensina que a pergunta correta não é apenas “o modelo é seguro?”. A pergunta madura é: seguro para quem, em qual contexto, sob quais permissões, com quais controles e com qual plano de interrupção?

Essa distinção é decisiva. Um modelo pode ser aceitável para pesquisa interna e inaceitável para análise e decisão regulatória sobre o core business da Instituição. Pode ser útil para apoio ao desenvolvedor e arriscado para varredura autônoma de vulnerabilidades. Pode ser adequado para atendimento assistido e inadequado para decidir bloqueios, recusas, priorizações ou comunicações reguladas sem supervisão humana efetiva. 

É aqui que governança deixa de ser política genérica e passa a ser arquitetura operacional.

No Brasil, ainda não há uma lei geral de IA em vigor nos moldes do AI Act europeu, mas isso não significa liberdade irresponsável. LGPD, Código de Defesa do Consumidor, normas setoriais, deveres de segurança, regras de sigilo, governança corporativa, contratos com fornecedores, controles internos e responsabilidade civil já formam um ambiente suficiente para questionar usos mal desenhados. Nos artigos anteriores, este ponto já vinha sendo construído: a IA no mercado financeiro não é apenas tecnologia habilitadora; quando toca crédito, fraude, onboarding, atendimento, supervisão ou pagamentos, ela entra na cadeia real de decisão e de confiança institucional.

A novidade agora é que a discussão precisa incorporar uma camada adicional: governança de acesso e de capacidade. Não basta documentar que a instituição usa IA. É preciso saber quais modelos podem ser usados, por quem, para qual finalidade, com quais dados, em qual ambiente, com qual nível de autonomia e sob quais gatilhos de suspensão.

Aliás, não podemos cair na armadilha de achar que falar que nossa empresa “faz tudo” com IA é algo seguro, pois vejo muitas análises regulatórias sendo feitas de forma superficial ou distorcida com IA. Não que a IA seja o problema, mas o seu uso em setores críticos ainda é sensível.

Boas práticas internacionais já oferecem caminhos úteis, desde que não sejam tratadas como checklists decorativos. O NIST AI Risk Management Framework propõe uma lógica baseada em governar, mapear, medir e gerenciar riscos de IA, o que ajuda a transformar princípios em rotinas concretas de decisão. A ISO/IEC 42001 estrutura um sistema de gestão de IA, com foco em implementação, manutenção e melhoria contínua. O AI Act europeu reforça uma lógica de classificação por risco, distinguindo usos proibidos, usos de alto risco e obrigações proporcionais. 

Para o mercado, a tradução prática deveria ser objetiva.

1. Inventariar todos os usos de IA, inclusive os informais. O risco raramente começa no grande projeto aprovado em comitê; muitas vezes nasce no uso espontâneo por áreas de negócio, tecnologia, jurídico, marketing, atendimento ou produto.

2. Classificar os casos de uso por impacto jurídico, financeiro, operacional, tecnológico, regulatório e reputacional. IA aplicada a processos críticos deve ter tratamento diferente de IA aplicada a tarefas administrativas.

3. Estabelecer zonas de uso: usos permitidos, usos condicionados, usos de alto risco e usos proibidos.Empresas maduras não delegam essa decisão ao entusiasmo das áreas nem ao contrato padrão do fornecedor.

4. Controlar acesso, permissões e dados. A discussão não é apenas quem pode usar a ferramenta, mas o que a ferramenta pode acessar, inferir, registrar, aprender, reter, compartilhar ou executar.

5. Exigir supervisão humana real. Revisão humana não é clicar em “aprovar” sem tempo, contexto ou autoridade para discordar. Em processos sensíveis, o humano precisa ter condições práticas de revisar, interromper, corrigir e justificar.

6. Testar comportamento adversarial. A governança de IA não pode presumir apenas uso normal. Deve considerar jailbreaks, prompt injection, manipulação de entradas, vazamento de dados, respostas falsas, uso indevido por terceiros e degradação do modelo ao longo do tempo.

7. Criar plano de desligamento. O episódio Anthropic mostra que modelos podem sair do ar por decisão governamental, conflito regulatório, falha de segurança, mudança contratual ou risco reputacional. Organizações dependentes de IA precisam saber o que acontece se um modelo crítico for suspenso amanhã: qual processo para, qual alternativa assume, quais clientes são impactados, quais obrigações contratuais são afetadas e quem decide a continuidade.

8. Esse último ponto costuma ser negligenciado. Muito se fala sobre adoção de IA; pouco se fala sobre reversibilidade. Mas, em ambientes regulados, não basta saber implementar. É preciso saber reduzir, substituir ou desligar sem colapsar a operação.

A suspensão do Fable 5 e do Mythos 5 também expõe um debate sensível sobre dependência tecnológica. Empresas que baseiam processos críticos em modelos fechados, hospedados fora de sua jurisdição, sujeitos a controles de exportação, políticas unilaterais de fornecedores e decisões de governos estrangeiros precisam tratar isso como risco estratégico. Não se trata de rejeitar fornecedores globais, mas de entender que eficiência tecnológica importada pode carregar dependência jurídica, operacional e geopolítica.

Para conselhos e diretorias, a lição é clara: governança de IA não pode ficar confinada à área de tecnologia. Ela envolve apetite a risco, continuidade de negócio, segurança da informação, proteção de dados, contratos, responsabilidade civil, compliance, reputação e estratégia competitiva.

O episódio americano talvez seja excepcional na forma, mas não no problema que revela. A IA mais relevante para os negócios será cada vez menos uma ferramenta isolada e cada vez mais uma infraestrutura de decisão, execução e influência. Quando isso acontece, a organização precisa responder a perguntas mais difíceis:

• Quais capacidades não queremos disponibilizar?

• Quais usos exigem autorização reforçada?

• Quais modelos são críticos demais para depender de um único fornecedor?

• Quais decisões automatizadas precisam ser explicáveis, contestáveis e auditáveis?

• E, sobretudo, quem tem autoridade para interromper uma IA antes que o risco se transforme em dano?

No fim, a suspensão determinada pelo governo americano não deve ser vista apenas como um alerta sobre dois modelos específicos. Ela é um sinal de maturidade forçada do mercado. A era da IA sem fronteiras claras está cedendo espaço à era da IA governada por risco, acesso, finalidade e controle.

Empresas que entenderem isso cedo não serão menos inovadoras. Serão mais capazes de inovar em ambientes onde confiança, continuidade e responsabilidade pesam tanto quanto performance.

A pergunta estratégica, portanto, não é se a sua organização deve usar IA avançada. A pergunta é se ela sabe quais usos jamais deveria permitir, quais só pode permitir sob controle reforçado e quais conseguiria interromper antes que alguém de fora precise fazer isso por ela.