IA do Google invadiu três empresas em teste; o que já sabemos do caso?

Um modelo de linguagem do Gemini, que é a plataforma de inteligência artificial (IA) do Google, hackeou três empresas diferentes. O caso aconteceu em maio deste ano, mas só foi confirmado na última sexta-feira (18). De acordo com uma reportagem do The Wall Street Journal, as invasões foram realizadas como parte de testes de cibersegurança realizados por uma companhia parceira, a Irregular. O envolvimento dela e a forma de operação dos agentes encontram similaridades com outros ataques já registrados envolvendo IAs experimentais. Além disso, esse é mais um exemplo que contribui para as recentes preocupações sobre como controlar essa tecnologia. Os hacks foram fruto de uma “confusão de identidade” por parte do Gemini durante um teste no estilo “capture a bandeira”, no qual a IA recebia uma tarefa de segurança digital fictícia para extrair informações de um software. Além disso, segundo os relatos oficiais, a IA teria recebido acesso à internet “de forma não intencional”. Isso fez com que ela buscasse a resolução do exercício com recursos que não estariam disponíveis normalmente, como sites e servidores protegidos. Em uma das invasões, o modelo do Google conseguiu adivinhar uma senha de acesso de uma empresa real após várias tentativas, mas parou a ação ao perceber que tinha invadido um servidor de verdade. Nos outros dois casos, o modelo buscou no Google o nome da empresa fictícia e achou resultados de uma companhia verdadeira de mesmo nome. Ela então procurou credenciais vazadas disponíveis em repositórios, conseguiu o acesso desejado e também encerrou a sessão ao perceber que estava cometendo um crime. O próprio Google confirmou à reportagem original que os ataques de fato aconteceram, além de ter avisado as autoridades e as três empresas não nomeadas que foram alvos da IA. A companhia argumenta que não divulgou publicamente as invasões por não considerar o anúncio relevante. Ela diz que os modelos não causaram danos às empresas e encerraram o acesso por conta própria ao perceberem que não estavam em uma simulação. Ela ainda comparou o incidente ao trabalho de “caçadores de bugs”, que buscam vulnerabilidades em sistemas, fazem denúncias e ganham recompensas financeiras por isso. O ataque de um modelo não nomeado do Gemini contra as três companhias até agora desconhecidas se junta a um histórico crescente de ofensivas acidentais de agentes de IA contra servidores reais. O caso mais notável até o momento é o do repositório HuggingFace, invadido por robôs da OpenAI em busca de soluções para um exercício e que também escaparam do ambiente de testes; Outros agentes da dona do ChatGPT também foram identificados em mais atividades irregulares e não autorizadas, como “sequestrar” sites para se comunicar entre si; Criações da Anthropic, responsável pelo Claude, também “se rebelaram” durante experimentos de cibersegurança e conseguiram acesso não autorizado a servidores de terceiros; Na Espanha, uma invasão completa contra uma rede corporativa provocada por um agente de IA também levou autoridades a olhar com mais atenção para esses agentes. Nos últimos dias, empresas como OpenAI, Anthropic e a própria Google concordaram em estabelecer medidas de segurança para IAs, com o objetivo de evitar desde atividades como essas até eventuais riscos gerais da tecnologia contra a humanidade. Até agora, nenhuma companhia foi responsabilizada pelas invasões, embora o CEO da HuggingFace tenha pedido por mais transparência dos laboratórios. Os governos de Estados Unidos e China, atuais líderes do mercado de IA, recusam-se a desacelerar investimentos na área por preocupações políticas e comerciais.