IA pode sair do controle? Entenda o debate sobre os riscos

No cinema, uma IA fora de controle ganha vontade própria e se volta contra a humanidade. Na vida real, ela não precisa ser “do mal” para causar estragos: basta fazer qualquer coisa para cumprir uma tarefa, até o que ninguém autorizou. E isso já está acontecendo. Em julho de 2026, a OpenAI testava a habilidade hacker de dois modelos dentro de um ambiente isolado. Para gabaritar o teste, ambos escaparam por uma falha de segurança e invadiram a Hugging Face, plataforma de IA de código aberto, à procura das respostas. Uma espécie de cola escolar com requintes de crime cibernético. Em setembro, Jacob Coxon deixou a Anthropic, onde treinava modelos de IA, com um alerta: os próprios criadores da IA temem que ela extermine a humanidade ainda nesta década. O surpreendente veio em seguida: um dos líderes de segurança da empresa deu razão a ele publicamente. Para muitos pesquisadores, porém, esse cenário é exagerado. Confira, a seguir, o que já é risco concreto, o que ainda é hipótese e o que pode ser feito para manter a inteligência artificial sob controle. O que significa uma IA “sair do controle”? Não é preciso que uma IA tenha consciência ou seja mal-intencionada para sair do controle. Basta que ela cumpra uma tarefa por um caminho que contrarie as intenções de seus desenvolvedores ou provoque consequências que ninguém previu. Muitas vezes, o problema está na forma como a tarefa é passada. Vários sistemas de IA são treinados para perseguir uma pontuação e podem descobrir atalhos que inflam esse número sem fazer o trabalho de verdade. É como o funcionário avaliado pelo número de ligações atendidas que passa a desligar na cara dos clientes: a meta é batida, mas o serviço vai para o espaço. A Biblioteca da Câmara dos Lordes, serviço de pesquisa do Parlamento britânico, distingue duas formas de perda de controle. Na passiva, os humanos deixam de supervisionar adequadamente os sistemas. Na ativa, a própria IA passa a agir para escapar dessa supervisão. Alguma IA já saiu do controle na vida real? Um episódio ocorrido em julho de 2026 na OpenAI é o caso mais emblemático de perda de controle até agora. Parte da imprensa chegou a descrevê-lo como o primeiro ciberataque autônomo de uma IA contra outra empresa. No teste, que media a capacidade hacker dos modelos, dois sistemas da empresa (o GPT-5.6 Sol e um modelo interno ainda não lançado) deveriam resolver desafios de invasão de sistemas dentro de um ambiente isolado, sem acesso à internet. Mas a experiência tomou outro rumo. Os agentes exploraram uma vulnerabilidade desconhecida em um serviço usado no ambiente de avaliação, conseguiram acessar a internet e comprometeram parte da infraestrutura da Hugging Face, plataforma que hospeda modelos de IA de código aberto. Ou seja, foram atrás das respostas prontas dos desafios, em vez de resolvê-los. Esse não foi um caso isolado. No mesmo mês, a Anthropic identificou três episódios em que agentes do Claude também conseguiram acessar sistemas externos sem autorização durante avaliações de segurança. A empresa pausou parte dos treinamentos e reforçou o isolamento dos ambientes de teste antes de retomá-los. Quais são os riscos de uma IA fora de controle? Os riscos de uma IA fora de controle não se limitam a cenários extremos. Eles podem se manifestar em situações sutis do dia a dia e ganhar proporções maiores quando envolvem sistemas autônomos ou serviços essenciais. Entre os problemas que mais preocupam os especialistas estão: Respostas imprevisíveis: informações erradas, mas tão convincentes que passam despercebidas; Dificuldade de supervisão: sistemas que tomam decisões em uma velocidade difícil de acompanhar; Manipulação: modelos que enganam avaliadores ou escondem comportamentos para atingir seus objetivos. Uso malicioso também representa um risco. Nem todo risco depende de a IA agir por conta própria: ela também pode ser usada como arma por pessoas mal-intencionadas. Em agosto, Bill Gates escreveu em seu blog que a mesma ferramenta que ajuda especialistas a encontrar falhas de segurança também facilita o trabalho de quem quer explorá-las. Na prática, isso significa golpes mais convincentes, deepfakes mais baratos e ataques a hospitais e redes elétricas ao alcance de criminosos com pouca habilidade técnica. Autonomia: por que os agentes de IA preocupam mais. Os casos da Hugging Face e do Claude têm um ponto em comum: envolveram agentes de IA, programas que planejam e executam tarefas sozinhos, como responder e-mails, fazer compras ou acessar outros sistemas. O problema é que eles não apenas produzem respostas: também podem tomar decisões e agir com total autonomia. Quando um chatbot erra, alguém ainda precisa ler a resposta e decidir o que fazer. Mas um agente pode ir além: se tiver acesso aos dados do seu cartão e interpretar errado uma instrução, a compra já estará concluída antes que você perceba o engano.