A IA vai destruir a humanidade? O que esse medo revela sobre o futuro dos negócios

Por Helena Levorato, embaixadora IA4FIN

Nos últimos meses, tenho acompanhado com bastante atenção algumas declarações de pesquisadores e profissionais ligados aos principais laboratórios de inteligência artificial do mundo, especialmente daqueles que alertam para a possibilidade de sistemas futuros escaparem do controle humano e, em situações extremas, representarem uma ameaça à nossa própria sobrevivência. É compreensível que previsões como essas despertem certa ansiedade e preocupação, principalmente quando partem de pessoas que conhecem de perto o desenvolvimento dessas tecnologias. Mas, por outro lado, também fico pensando que, enquanto dedicamos tanto tempo discutindo cenários apocalípticos, estamos deixando de olhar para os riscos que já fazem parte da nossa realidade e sobre os quais poderíamos começar a agir agora mesmo.

Recentemente, levei essa reflexão para o MQI Trends, um novo programa que desenvolvemos no canal do YouTube da Sociedade Brasileira de Inovação, em uma conversa muito interessante com a psicóloga Simone Grohs e a especialista em inteligência artificial Erica Grellert, na qual exploramos tanto os riscos tecnológicos quanto a maneira como nosso comportamento influencia a percepção dessas ameaças. Do ponto de vista da neurociência, sabemos que o cérebro humano é especialmente sensível a informações negativas, uma característica relacionada aos nossos mecanismos de sobrevivência, que nos ajudam a identificar possíveis perigos e antecipar situações de risco. O problema é que esse mesmo mecanismo pode ampliar muito a nossa sensação de ameaça diante de acontecimentos que ainda não compreendemos completamente, e isso se torna especialmente relevante quando estamos falando de uma tecnologia que evolui tão rapidamente que, muitas vezes, nem mesmo os profissionais que trabalham com ela conseguem compreender todas as suas aplicações e transformações.

Sendo assim, quando transportamos essa discussão para o ambiente empresarial, especialmente para o setor financeiro, percebemos que existem mesmo razões bastante concretas para essa preocupação, afinal, estamos falando de organizações que administram muitas informações sensíveis, que movimentam inúmeros recursos e que tomam decisões que podem impactar diretamente a vida de milhões de pessoas, e a todo momento, também acompanhamos notícias sobre fraudes cada vez mais sofisticadas, como deepfakes, manipulação de informações e ataques cibernéticos, situações que já exigem das empresas muita atenção, investimentos constantes e novas estratégias de proteção. Portanto, quando penso na realidade dessas organizações, eu até consigo compreender por que tantas lideranças se sentem inseguras diante da velocidade com que a inteligência artificial avança, principalmente quando suas equipes ainda estão tentando entender como utilizar essas ferramentas mais estrategicamente, quais exatamente são os riscos que estão assumindo e até que ponto podem confiar nos resultados que elas geram.

Tenho observado, inclusive, que essa insegurança tem produzido comportamentos bastante diferentes dentro de uma mesma organização, porque, enquanto alguns profissionais resistem à adoção da inteligência artificial por receio de perder o controle sobre suas atividades ou até mesmo perder o próprio emprego, outros, pressionados pela busca de produtividade e resultados, começam a utilizar ferramentas e automatizar processos desesperadamente, sem compreender adequadamente as suas limitações. Em ambos os casos, existe uma dificuldade em comum que considero importante destacar, relacionada à falta de conhecimento, de preparo e de critérios claros para orientar o uso dessas tecnologias, e é justamente nesse ponto que vejo uma das maiores responsabilidades das lideranças, porque, à medida que a inteligência artificial passa a fazer parte das atividades cotidianas, precisamos preparar melhor as equipes para compreender o sentido do que estão fazendo, avaliar a qualidade desses resultados e principalmente, reconhecer os limites dessas ferramentas, desenvolvendo a autonomia necessária para decidir quando e como utilizá-las, sem perder a capacidade de aprender, questionar, analisar e assumir a responsabilidade pelo próprio trabalho.

Uma das questões que mais discutimos durante esse programa no YouTube foi a autonomia que estamos concedendo aos sistemas de inteligência artificial, especialmente agora que já podemos utilizar agentes capazes de executar tarefas, consultar informações, interagir com diferentes plataformas e realizar operações que antes dependiam diretamente da intervenção humana. No setor financeiro, essas possibilidades são enormes, desde a análise de grandes volumes de dados até a automação de processos operacionais e o aprimoramento da experiência dos clientes, mas também nos colocam diante de decisões importantes sobre quais informações esses sistemas podem acessar, quais ações estão autorizados a executar e em que situações a supervisão humana continua sendo indispensável. Entendo que essa é uma reflexão especialmente necessária, porque a facilidade de automatizar atividades pode nos levar, quase sem perceber, a transferir também uma grande parte da nossa capacidade de avaliação e decisão, criando uma dependência que merece tanta atenção quanto os riscos tecnológicos propriamente ditos.

Na minha experiência com inovação e desenvolvimento de lideranças, percebo que as organizações conseguem avançar com mais segurança quando deixam de tratar a inteligência artificial como um assunto restrito às equipes de tecnologia e começam a envolver diferentes áreas na construção dessa nova realidade. O que vejo na prática é que, quando profissionais de negócios, segurança, recursos humanos, operações e outras áreas participam dessas conversas, conseguimos compreender melhor os impactos de cada aplicação, identificar as vulnerabilidades e oportunidades de melhoria, mas principalmente, desenvolver critérios mais consistentes para decidir onde a IA realmente pode gerar maior valor e onde seu uso talvez precise ser revisto ou até mesmo descontinuado. Isso exige fazer perguntas que podem parecer simples em princípio, mas que nem sempre recebem a devida atenção nas decisões empresariais do dia a dia, como quais problemas queremos resolver primeiro, quais dados estamos disponibilizando e pra quem, como vamos avaliar os resultados e quem será responsável quando alguma coisa não funcionar como esperado, e acredito que é justamente a partir dessas reflexões que começamos a enxergar com mais clareza o potencial da inteligência artificial, porque, quando conseguimos identificar problemas reais e compreender onde a tecnologia pode contribuir, surgem oportunidades de aplicação que vão muito além da simples automação de tarefas. 

No setor financeiro, por exemplo, já encontramos soluções que ajudam a identificar comportamentos suspeitos, aprimorar análises de risco, tornar processos mais eficientes e ampliar o acesso a serviços, assim como vemos, em outras áreas, avanços importantes na pesquisa científica, na medicina e no desenvolvimento de soluções para problemas complexos que afetam a sociedade. Quando penso nessas possibilidades, fico imaginando quantas oportunidades realmente podemos deixar de explorar se permitirmos que o medo se transforme em uma barreira à inovação, especialmente quando temos a possibilidade de combinar nossas melhores capacidades humanas com os recursos tecnológicos disponíveis hoje para enfrentar desafios que, até pouco tempo, pareciam muito difíceis ou até, impossíveis de resolver.

Isso nos faz pensar no papel que cada um de nós exerce na construção desse futuro, porque as tecnologias não chegam às organizações acompanhadas de uma cultura de responsabilidade pronta, mas são as pessoas que precisam desenvolver essa cultura, estabelecer quais são os limites, questionar os resultados e compreender as consequências de suas decisões. E, embora existam riscos associados ao desenvolvimento de sistemas cada vez mais autônomos, muitos dos problemas que enfrentamos hoje estão diretamente relacionados à maneira como utilizamos ferramentas que já estão disponíveis, à qualidade dos dados que compartilhamos e à facilidade com que, algumas vezes, delegamos atividades sem a supervisão necessária. Por isso, acredito que investir na formação das equipes, no exercício do pensamento crítico, na governança e na segurança da informação seja uma das maneiras mais concretas de preparar as empresas para o futuro, permitindo que a inovação avance acompanhada de responsabilidade.

Continuo olhando para a inteligência artificial com um certo otimismo, especialmente pelo que ela pode representar para o desenvolvimento das pessoas, das empresas e da sociedade, mas esse olhar também vem acompanhado da consciência de que precisamos participar ativamente das decisões sobre como essas tecnologias serão desenvolvidas e utilizadas. Talvez não tenhamos todas as respostas sobre o que acontecerá nas próximas décadas, e certamente novas questões surgirão à medida que os sistemas se tornarem mais sofisticados, mas temos condições de agir sobre muitas das escolhas que estão diante de nós neste momento, e é justamente aí que acredito estar uma das maiores oportunidades para as lideranças que é, ajudar suas equipes a substituir a insegurança pelo conhecimento, autonomia para utilizar a inteligência artificial com discernimento e criar ambientes nos quais as pessoas se sintam preparadas para inovar, sabendo que a responsabilidade pelas decisões e pelos impactos dessa transformação continua sendo uma parte essencial do nosso papel humano.