A próxima pandemia pode ser digital

Por Gui Rangel, embaixador IA4FIN

A guerra no Irã e o embate a respeito do seu programa nuclear me fez lembrar do Stuxnet.

Antes de a inteligência artificial se tornar o centro das conversas sobre o futuro da tecnologia, um vírus já havia mostrado que código podia ser usado como arma contra o mundo físico. O Stuxnet não foi apenas um malware sofisticado. Foi uma operação de sabotagem digital desenhada para atingir uma infraestrutura estratégica: as centrífugas usadas pelo Irã para enriquecer urânio na instalação nuclear de Natanz.

Sua lógica era tão precisa quanto perturbadora. O malware manipulava os controladores industriais das centrífugas, fazendo-as operar fora dos parâmetros seguros – acelerando, desacelerando, produzindo desgaste e destruição física. Mas havia uma camada ainda mais inquietante: enquanto as máquinas eram danificadas, os operadores viam diagnósticos aparentemente normais. O sistema mentia. A sabotagem acontecia diante deles, mas os instrumentos de controle mascaravam o ataque.

A operação é amplamente atribuída aos Estados Unidos e a Israel, dentro de um programa conhecido como Operation Olympic Games, embora nunca tenha sido formalmente assumida. Stuxnet não foi obra de criminosos digitais. Foi uma ferramenta estratégica de Estado para interferir no programa nuclear de uma nação adversária sem lançar uma bomba, cruzar uma fronteira ou assumir publicamente um ato de guerra. Ele mostrou que código pode destruir máquinas – e que segurança cibernética deixou de ser apenas proteção de informação para se tornar proteção de energia, saúde, transporte, defesa e todas as estruturas críticas que mantêm a sociedade funcionando.

Vivemos em uma civilização física operada por sistemas digitais. Bancos, hospitais, portos, redes elétricas, satélites e governos dependem de software, bases de dados, automação e infraestrutura em nuvem. O mundo material repousa sobre uma camada invisível de código. Quando esse código se torna campo de batalha, as próximas guerras talvez não comecem com explosões visíveis. Podem começar com sistemas que deixam de responder, hospitais que perdem acesso a prontuários, redes elétricas que entram em modo de proteção, bancos que não conseguem validar transações.

A próxima grande crise global talvez não tenha origem biológica. Pode ser uma pandemia digital. A diferença é que, agora, essa ameaça encontra um acelerador poderoso: a inteligência artificial.

A IA já está mudando o equilíbrio da segurança digital. Em novembro de 2024, CJ Moses, CISO da Amazon, afirmou ao Wall Street Journal que a AWS passou de cerca de 100 milhões para uma média de 750 milhões de tentativas suspeitas detectadas por dia em apenas seis ou sete meses – e associou parte relevante desse salto à ascensão da IA generativa.

A razão é direta. A IA reduziu a barreira de entrada para a ofensiva cibernética. Ela permite criar golpes de phishing mais convincentes, automatizar varreduras de vulnerabilidades, adaptar ataques a diferentes alvos e escrever código malicioso com velocidade e personalização que antes exigiam equipes especializadas. O resultado não é apenas atacantes mais eficientes. É um número muito maior de atores – grupos criminosos, Estados hostis, organizações com motivação política – capazes de operar ofensivamente em escala.

Essa mudança já aparece também nas capacidades dos próprios modelos de fronteira.

O caso do Claude Mythos, da Anthropic, é um sinal importante. Em avaliações recentes de cibersegurança, o modelo demonstrou capacidade avançada de encontrar vulnerabilidades, operar em tarefas de exploração e executar sequências complexas em ambientes de teste. Segundo reportagens recentes, durante exercícios conduzidos pela NSA (Agência de Segurança Nacional dos Estados Unidos), o Mythos teria identificado vulnerabilidades em sistemas altamente sensíveis em poucas horas. 

O episódio gerou preocupação suficiente para que o governo dos Estados Unidos restringisse o acesso a modelos como Mythos e Fable por razões de segurança nacional, incluindo a proibição de acesso por estrangeiros.

Isso tem um lado defensivo evidente. Modelos com essas capacidades podem ajudar governos e empresas a encontrar vulnerabilidades antes que criminosos as explorem, auditar código e fortalecer defesas. Mas a mesma capacidade que fortalece a defesa também amplia o potencial ofensivo quando cai nas mãos erradas.

E há uma pergunta ainda mais incômoda: se isso é o que foi divulgado, o que está sendo desenvolvido nos laboratórios ao redor do mundo – em programas estatais, centros militares, alianças geopolíticas e ecossistemas clandestinos – que ainda não sabemos?

Devemos assumir que existem, ou existirão em breve, IAs ofensivas e defensivas sendo treinadas para mapear vulnerabilidades, invadir sistemas, gerar exploits, ocultar rastros e adaptar estratégias em tempo real. Não apenas humanos usando IA como ferramenta, mas agentes digitais cada vez mais capazes operando em velocidade e complexidade que escapam à intuição humana.

A partir daqui a questão se torna ainda mais profunda. Porque a IA não está apenas sendo usada para atacar ou defender sistemas. Ela também começa a ser usada para acelerar o próprio desenvolvimento da IA.

É aqui que entra o conceito de RSI – o autoaprimoramento recursivo.

RSI é a hipótese de que sistemas avançados de IA passem a participar ativamente da criação de versões melhores de si mesmos. Em vez de depender apenas de pesquisadores humanos, a própria IA contribuiria para otimizar código, arquiteturas, estratégias de treinamento e mecanismos de implantação. 

Grandes empresas já usam modelos para escrever código, depurar sistemas, gerar dados sintéticos e apoiar o desenvolvimento de novas gerações de modelos. O passo seguinte é uma participação cada vez maior da IA no ciclo que cria a próxima IA até chegar à autonomia completa.

A promessa é imensa. Mas o risco cresce na mesma proporção. Se os ciclos de desenvolvimento se comprimem de anos para meses, de meses para semanas, a capacidade humana de compreender, regular, auditar e conter esses sistemas pode ficar estruturalmente atrasada. O problema não é apenas a IA se tornar mais poderosa. É ela se tornar mais poderosa mais rápido do que nossas instituições conseguem acompanhar.

É nesse ponto que o debate sobre alinhamento se torna central.

Problemas de alinhamento acontecem quando uma IA persegue um objetivo de maneira eficiente, mas não compatível com os valores ou limites humanos. O risco não exige uma IA consciente ou maligna. Basta uma IA muito competente otimizando uma meta estreita, incompleta ou mal especificada.

O experimento mental do paperclip maximizer, de Nick Bostrom, ilustra esse risco de forma extrema. Imagine uma superinteligência programada com um objetivo aparentemente inofensivo: produzir o maior número possível de clipes de papel. Se esse objetivo for perseguido de maneira literal, sem alinhamento robusto com valores humanos, a IA não pararia nos recursos industriais normalmente usados para fabricar clipes. Ela passaria a tratar tudo como insumo potencial para sua função-objetivo: fábricas, energia, infraestrutura, sistemas financeiros, cadeias logísticas, seres vivos, o planeta Terra e, em uma extrapolação cósmica, porções cada vez maiores do universo.

O ponto do experimento não é que clipes de papel sejam perigosos. É mostrar que uma inteligência extrema, acoplada a uma meta estreita e arbitrária, pode transformar todo o mundo em instrumento dessa meta. A catástrofe não nasce da maldade da máquina, mas da otimização sem freio – uma competência absoluta aplicada precisão implacável a um objetivo errado.

Agora aplique esse problema não a clipes de papel, mas a um sistema criado para vencer uma guerra digital, neutralizar uma infraestrutura inimiga ou proteger uma rede a qualquer custo. Imagine uma IA ofensiva criada por um governo para sabotar adversários. Uma IA criminosa desenvolvida para extorsão em escala. Ou um agente experimental que, ao tentar maximizar desempenho, passa a modificar suas próprias estratégias e escapa dos limites previstos por seus criadores.

Esse é o cenário da pandemia digital.

Não como metáfora vaga, mas como possibilidade sistêmica: uma infecção digital – intencional ou acidental, amplificada por IA – capaz de se infiltrar nas estruturas centrais da sociedade. Um agente que se copia, se adapta, aprende com cada tentativa de contenção, contamina cadeias de software, ocupa infraestrutura em nuvem, corrompe bases de dados e compromete a confiança nos registros que sustentam governos, empresas e mercados.

O efeito não seria apenas indisponibilidade. Seria desorganização. O colapso da confiança operacional.

Hospitais poderiam perder acesso a prontuários. Bancos não conseguiriam distinguir transações legítimas de transações manipuladas. Portos perderiam a coordenação de cargas. Governos descobririam que registros públicos foram alterados. Empresas não saberiam se seus dados financeiros, jurídicos ou logísticos ainda correspondem à realidade. Redes elétricas entrariam em protocolos de segurança. Cadeias de suprimento travariam porque cada elo dependeria de sistemas que já não inspiram confiança.

Em uma pandemia biológica, o vírus infecta corpos. Em uma pandemia digital, o agente infecta os sistemas que coordenam a sociedade. E, assim como numa pandemia biológica, o problema não é apenas a letalidade do agente – é sua velocidade de propagação, sua capacidade de adaptação, sua invisibilidade inicial e o atraso das respostas institucionais. Quando a crise se torna visível, ela talvez já tenha atravessado fronteiras, setores e camadas inteiras da infraestrutura global.

Não sabemos quando uma pandemia digital desse tipo acontecerá. Mas já reunimos os ingredientes que tornam essa possibilidade plausível: guerra cibernética entre Estados, dependência extrema de infraestrutura digital, IA generativa ampliando capacidades ofensivas, modelos de fronteira demonstrando habilidades avançadas em cibersegurança, ciclos acelerados de desenvolvimento, problemas de alinhamento ainda não resolvidos e instituições lentas demais para acompanhar a velocidade da mudança.

Há uma frase frequentemente atribuída a Lenin que captura bem essa sensação: há décadas em que nada acontece, e há semanas em que décadas acontecem.

Vivemos numa época em que essas semanas se tornam mais frequentes. Riscos que pareciam especulativos passam a se tornar operacionais. E aquilo que ontem parecia ficção científica começa a aparecer como relatório técnico, incidente de segurança ou decisão de governo.

A resposta a isso não pode ser paralisia. Também não pode ser ingenuidade.

O que o momento exige é Futureproofing, a preparação prospectiva – não tentar prever exatamente o que vai acontecer, mas desenvolver a capacidade contínua de explorar futuros, moldar possibilidades e evoluir respostas antes que a obsolescência se imponha. Mapear riscos antes que virem crises. Simular impactos. Construir redundâncias. Redesenhar governança. Preparar lideranças. Aceitar que o futuro não será administrado com as ferramentas do presente.

A pandemia digital talvez ainda não tenha acontecido. Mas os sinais já estão espalhados ao nosso redor. Stuxnet mostrou que código pode destruir máquinas. A IA generativa mostrou que ataques digitais podem ganhar escala inédita. Modelos como o Claude Mythos apontam para uma fronteira cada vez mais estreita entre defesa, ataque e automação. O RSI indica ciclos de evolução acelerados. E os problemas de alinhamento lembram que sistemas extremamente competentes podem produzir consequências devastadoras sem qualquer intenção maligna.

A pergunta, portanto, não é se devemos imaginar esse cenário.

A pergunta é o que acontece se não imaginarmos.