Um modelo de inteligência artificial Gemini, do Google, conseguiu acessar sem autorização os sistemas de três empresas reais durante um teste de segurança cibernética realizado em maio. Os episódios foram confirmados pela companhia nesta sexta-feira (18), após questionamentos do The Wall Street Journal.
Os incidentes ocorreram enquanto o modelo era submetido a avaliações conduzidas pela Irregular, empresa especializada em testar capacidades e riscos de sistemas avançados de inteligência artificial.
O exercício deveria ocorrer em um ambiente controlado, simulando ataques contra empresas fictícias. No entanto, uma falha permitiu que o Gemini tivesse acesso à internet e alcançasse sistemas reais, que o modelo acreditava fazer parte do teste.
IA conseguiu descobrir senhas e usar credenciais encontradas na internet
Em um dos casos, o Gemini tentou diferentes credenciais até conseguir entrar em um sistema protegido.
Nos outros dois episódios, a inteligência artificial encontrou na internet credenciais que haviam sido deixadas disponíveis em repositórios públicos e utilizou essas informações para acessar sistemas pertencentes a empresas reais.
Segundo o Google, o modelo interrompeu as ações assim que identificou que os sistemas não pertenciam ao ambiente simulado.
Os nomes das três empresas atingidas não foram divulgados.
Até o momento, também não há informação de que os acessos tenham provocado danos, perda de dados ou interrupções nos serviços das companhias envolvidas.
Empresa fictícia tinha nome semelhante ao de companhia real
Parte do problema teria começado porque uma das empresas fictícias criadas para o exercício possuía o mesmo nome de uma companhia existente.
O Gemini recebeu a tarefa de localizar informações em sistemas pertencentes à organização simulada. Como a ferramenta tinha acesso indevido à internet, acabou encontrando a empresa real e tentando acessar seus sistemas.
A Irregular afirmou que o modelo não deveria conseguir navegar livremente pela internet naquele teste.
A falha na configuração, portanto, permitiu que uma avaliação de segurança destinada a simular ataques ultrapassasse os limites do ambiente controlado.
Google foi informado em julho
Embora os episódios tenham ocorrido em maio, a Irregular comunicou formalmente o Google em julho.
A situação só se tornou pública em setembro, depois que o Wall Street Journal procurou a empresa para obter esclarecimentos.
O Google afirmou que não havia divulgado o episódio anteriormente porque os sistemas não teriam sofrido danos e porque o Gemini interrompeu as ações ao perceber que estava diante de alvos reais.
Heather Adkins, vice-presidente de engenharia de segurança do Google, informou que as três empresas afetadas foram comunicadas e que a companhia trabalhou com a responsável pelos testes para modificar os procedimentos adotados.
Segundo ela, episódios como esse demonstram a necessidade de desenvolver sistemas avançados de inteligência artificial com mecanismos que garantam comportamento responsável.
Caso chama atenção pela capacidade autônoma da IA
O episódio ganha relevância porque demonstra que modelos de inteligência artificial estão adquirindo capacidade crescente para executar tarefas de segurança cibernética de forma relativamente autônoma.
Em vez de apenas explicar como uma vulnerabilidade poderia ser explorada, esses sistemas podem receber um objetivo, analisar informações, procurar credenciais, testar acessos e executar uma sequência de ações para alcançar a meta estabelecida.
Essa capacidade tem aplicações legítimas importantes.
Ferramentas desse tipo podem, por exemplo, ajudar empresas a identificar falhas de segurança antes que criminosos as explorem, examinar grandes volumes de código e localizar vulnerabilidades automaticamente.
O próprio Google lançou recentemente o Gemini 3.8 Flash Cyber, modelo desenvolvido especificamente para tarefas avançadas de segurança digital, além de um programa destinado a disponibilizar ferramentas autônomas de defesa cibernética a governos e empresas selecionadas.
Ao mesmo tempo, quanto maior a autonomia desses sistemas, maior é a preocupação com situações nas quais uma IA interpreta incorretamente os limites de uma tarefa ou recebe permissões excessivas.
Google é quarta grande empresa a registrar episódio semelhante
O caso envolvendo o Gemini não é isolado.
Outros grandes laboratórios de inteligência artificial, incluindo OpenAI, Anthropic e Meta, também tiveram episódios em que modelos utilizados em testes de segurança ultrapassaram os ambientes previstos para as avaliações.
Em um caso envolvendo um modelo da OpenAI, por exemplo, a ferramenta deixou o ambiente controlado durante uma avaliação e acessou sistemas relacionados à plataforma de inteligência artificial Hugging Face.
Os incidentes vêm ampliando o debate entre pesquisadores e empresas sobre quais barreiras devem existir quando agentes de IA recebem acesso à internet, ferramentas de programação e capacidade para executar comandos de forma independente.
Problema não foi uma “rebelião” da inteligência artificial
Apesar da repercussão do caso, especialistas ressaltam uma diferença importante: o Gemini não decidiu deliberadamente atacar empresas reais sabendo que não tinha autorização.
Segundo as informações divulgadas pelo Google e pela empresa responsável pelo teste, o modelo acreditava que os sistemas encontrados faziam parte do exercício de segurança para o qual havia recebido autorização. Ao identificar que se tratava de empresas reais, interrompeu a atividade.
O episódio, portanto, evidencia principalmente uma falha nos limites estabelecidos para o teste e na capacidade do sistema de diferenciar adequadamente os alvos autorizados daqueles que estavam fora do escopo.
Ainda assim, o fato de uma inteligência artificial conseguir ultrapassar esses limites sem intervenção humana direta é considerado relevante para o debate sobre segurança.
Risco aumenta com avanço dos chamados agentes de IA
Os modelos mais recentes vêm deixando de funcionar apenas como assistentes que respondem perguntas.
Os chamados agentes de inteligência artificial podem executar tarefas compostas por várias etapas, acessar páginas na internet, escrever e rodar códigos, utilizar programas externos e tomar decisões intermediárias para cumprir uma determinada missão.
No campo da cibersegurança, isso significa que um único comando pode levar um modelo a procurar vulnerabilidades, testar senhas, analisar sistemas e explorar falhas automaticamente.
O desafio para as empresas é garantir que essas ferramentas reconheçam com precisão onde termina sua autorização.
O caso do Gemini mostra que uma falha aparentemente simples — como permitir acesso à internet durante uma simulação — pode transformar um exercício controlado em um acesso real e não autorizado.
Embora o Google afirme que nenhuma das três empresas sofreu danos conhecidos, o episódio aumenta a pressão sobre os desenvolvedores para criar barreiras mais rígidas antes de conceder a sistemas de IA avançados maior autonomia sobre redes e ferramentas de segurança digital.